Nvidia는 HBM 비용 급증과 지속되는 공급 제약 가운데 제품 라인 전체의 고대역폭 메모리 할당을 축소하고 있다.

세계 최대 규모의 인공지능 반도체 회사인 NVIDIA가 차세대 AI 칩에 사용되는 고대역폭 메모리(HBM) 용량을 대폭 축소하는 것을 검토하고 있습니다. 이는 처음 발표한 사양 대비 최대 81%, 또는 이전 세대 대비 33% 감소를 의미합니다. 심지어 NVIDIA도 HBM 공급 부족과 급등하는 가격을 관리하는 데 어려움을 겪고 있으며, 이는 전략적 "메모리 다이어트"로 귀결되고 있습니다.

NVIDIA는 이전에 2027년 출시 예정인 Rubin Ultra AI 칩이 12층 HBM4E(7세대) 16개 유닛을 탑재하여 총 1TB의 메모리를 제공할 것이라고 발표했습니다. 그러나 올해 3분기 이후로 회사는 8층 HBM4E 또는 구세대 HBM4(6세대) 중 하나의 크게 축소된 사양 제품을 테스트해왔습니다. 미국 IT 매체 The Information에 따르면, 일부 프로토타입의 총 메모리 용량은 192GB에 불과하며, 이는 원래 계획 대비 81% 감소를 나타냅니다. 현재 대량 생산되는 Rubin의 288GB 용량과 비교하면 33% 감소입니다. NVIDIA는 아직 Rubin Ultra 사양을 공식적으로 확정하지 않았습니다.

동기는 명확합니다. 메모리 비용이 급등했습니다. NVIDIA의 Grace Blackwell(GB300) 서버 제품에서 메모리는 총 비용 $3,994,600의 9.4%인 $373,939이었습니다. 차세대 Vera Rubin(VR200)의 경우 총 비용이 95% 증가하여 $7,803,100에 달했고, 메모리 비용은 435% 급증하여 $2,001,600에 달했으며, 총 비용의 25.7%를 차지하게 되었습니다. 시장조사 업체 TrendForce는 "AI 칩 공급업체들은 제한된 HBM 공급과 높은 비용의 이중 과제에 직면하고 있으며, 이는 저용량 HBM 구성을 채택하려는 강한 유인을 만들고 있습니다"라고 지적했습니다.

이 "메모리 다이어트"는 서버를 넘어 확대되고 있습니다. Microsoft, Dell, Acer은 최근 더 높은 기본 메모리의 추세를 역행하여 8GB 랩톱 모델을 재출시했으며, 부품 비용 상승을 소비자에게 전가하기 어려워지고 있습니다. Google은 차기 Pixel 11 스마트폰의 기본 메모리를 12GB에서 8GB로 줄일 것으로 알려졌습니다. 2분기 출하량은 이러한 압력을 반영했습니다. 스마트폰 출하량은 전년 동기 대비 11% 감소했으며, PC 출하량은 4% 감소했습니다.

즉각적인 업계 영향은 제한적일 수 있습니다. HBM은 AI 가속기 성능을 극대화하는 데 필수적이며, 이를 과도하게 줄이면 더 많은 칩을 연결해야 하므로 전체 시스템 비용이 증가할 수 있습니다. TrendForce는 2027년 HBM 출하량이 50~60% 성장할 것으로 예측하지만, 공급이 수요를 따라잡기 위해 분투할 것으로 예상합니다. PC와 스마트폰의 범용 DRAM과 NAND 플래시는 유사한 제약에 직면하고 있습니다. 소비자 하드웨어에서 직접 추론을 실행하는 "온디바이스 AI"의 부상으로 인해 더 많은 메모리가 필요하기 때문입니다.

그러나 가격 우려는 계속 남아 있습니다. SK 그룹 회장 최태원은 최근 다음과 같이 경고했습니다. "가격이 계속 오르면서 새로운 공장을 짓지 않으면, 시장이 축소되고 새로운 플레이어들이 필연적으로 진입할 것입니다. 공급을 늘려 가격을 낮춰야 합니다."