NVIDIA의 Rubin 플랫폼, 메모리 아키텍처를 계산 성능과 함께 주요 설계 제약으로 취급.

네바다주 라스베이거스에서 열린 CES 2026에서 엔비디아는 AI 컴퓨팅에 대한 급증하는 수요와 이에 따른 메모리 공급 부족이라는 업계의 가장 시급한 과제에 대응했습니다. 동사는 블랙웰 모델보다 효율성이 높고 컴퓨팅 성능 및 메모리 대역폭을 향상시킨 것으로 주장되는, 여섯 개의 칩이 하나의 AI 슈퍼컴퓨터로 결합된 루빈(Rubin) 플랫폼을 공식 출시했습니다. 엔비디아 최고경영자(CEO) 젠슨 황은 성명을 통해 "루빈은 훈련과 추론 모두에 대한 AI 컴퓨팅 수요가 폭발적으로 증가하는 정확한 시점에 등장했다"고 밝혔습니다.

루빈 기반 제품은 2026년 하반기부터 엔비디아 파트너를 통해 제공될 예정이며, 아마존 웹 서비스(AWS), 앤트로픽, 구글, 메타, 마이크로소프트, 오픈AI, 오라클, xAI 등의 도입이 예상됩니다. 앤트로픽의 CEO 다리오 아모데이는 이 발표를 치하하며 "엔비디아 루빈 플랫폼의 효율성 향상은 더 긴 기억력, 개선된 추론 능력, 그리고 더 신뢰할 수 있는 출력을 가능하게 하는 인프라 발전의 전형적인 사례"라고 평가했습니다. 회사 임원들에 따르면 루빈은 혼합 전문가(MoE) 아키텍처를 사용하는 딥시크(DeepSeek)와 같은 모델을 훈련할 때 사용되는 GPU 수를 4배 줄이고, 추론 토큰 비용을 최대 10배까지 절감합니다.

이러한 제품 발표를 주도한 심각한 메모리 부족 사태는 임계치에 도달했습니다. Tom's Hardware의 최근 보고서에 따르면 거대한 데이터센터 프로젝트들은 전 세계 DRAM 칩 생산량의 약 40%를 필요로 했습니다. 이러한 희소성은 소비자 전자제품 가격 인상과 함께 GPU 가격 상승설까지 불러일으키고 있습니다. 한국 뉴스통신사 뉴시스(Newsis)의 보도에 따르면 반도체 제조업체 AMD는 이달 말 일부 GPU 제품의 가격을 인상할 예정이며, 엔비디아도 2월 중 이를 따를 것으로 알려졌습니다. 엔비디아는 이러한 병목 현상에 적극적으로 대응해 왔으며, 지난달 추론 전용 칩 제조사인 그록(Groq)을 인수하며 사상 최대 규모의 구매를 단행했습니다.

루빈 외에도 엔비디아는 에이전트형 AI(Agentic AI)의 변화하는 인프라 요구사항에 대응하기 위해 '추론 컨텍스트 메모리 스토리지 플랫폼(Inference Context Memory Storage Platform)'이라는 새로운 클래스의 AI 네이티브 스토리지 인프라를 공개했습니다. 지난 한 해 동안 업계의 중심이 된 에이전트형 AI 시스템은 복잡한 작업을 자율적으로 수행하기 위해 이전 상호작용에서 얻은 정보를 기억해야 하므로 메모리 용량 증대가 필요합니다. 엔비디아 HPC 및 AI 하이퍼스케일 인프라 솔루션 담당 수석 이사인 디온 해리스는 핵심 과제를 설명하며 "병목 현상이 컴퓨팅에서 컨텍스트 관리로 이동하고 있다. 확장성을 위해서는 스토리지가 사후 고려사항이 될 수 없다"고 말했습니다. 그는 또한 "추론이 기가 규모로 확장됨에 따라 컨텍스트는 일급 데이터 타입이 되며, 새로운 엔비디아 추론 컨텍스트 메모리 스토리지 플랫폼은 이를 지원하기에 이상적인 위치에 있다"고 덧붙였습니다.

이러한 혁신들이 업계의 성장을 제약해 온 칩 부족 및 메모리 병목 현상을 해결하는 데 도움이 될지라도 다른 과제들은 여전히 남아 있습니다. 메모리 문제가 해결되더라도 AI 산업은 전례 없는 성장 과정에서 다른 병목 현상에 직면하게 될 것이며, 특히 데이터센터가 미국 전력망에 가하는 막대한 부하가 대표적인 예입니다.