NVIDIA가 높은 HBM 메모리 가격으로 인해 Rubin Ultra GPU 사양을 낮추고 있으며, 이는 플래그십 제품까지도 메모리 비용 및 가용성으로 제약받고 있음을 시사한다
지난 주말, 투자 리서치 기업 SemiAnalysis의 기관 보고서가 AI 업계 전반에 걸쳐 광범위한 논의를 촉발했다. 동사가 6월 말 엔비디아(Nvidia)의 초기 4-die Rubin Ultra 설계가 축소될 것이라고 밝힌 이후, SemiAnalysis는 이제 엔비디아가 주요 고객들에게 이전 예상보다 사양이 추가로 줄어든 Rubin Ultra 미리보기를 제공했다고 밝혔다.
Rubin Ultra는 여러 다이와 고대역폭 메모리(HBM)를 통합하여 극대규모 AI 모델 학습 및 추론을 처리하도록 설계된 엔비디아의 플래그십 프로세서로, GTC 2026에서 발표되었다. SemiAnalysis의 최신 공개 자료에 따르면, 엔비디아는 해당 제품의 설계 철학을 조정했다.
최근 2년간 고대역폭 메모리는 AI 인프라 확장에서 가장 중요한 구성 요소로 부상했다. 엔비디아의 H100, H200, Blackwell 가속기에 대한 폭발적인 수요로 인해 HBM은 틈새 시장에서 전체 공급망에서 가장 제약된 링크로 진화했다. SK하이닉스, 삼성전자, 마이크론 모두 HBM 투자를 확대하며 매출 기록을 계속 경신하고 있지만, 수급 불균형은 가격 상승을 주도하고 있다.
AI 칩 제조업체에게 HBM의 중요성은 paramount하다. GPU가 연산을 담당하는 반면, HBM은 AI 모델 학습 및 추론의 효율성을 결정하는 고속 데이터 처리량을 제공한다. 그러나 HBM은 비싸져 이제 AI 시스템의 전체 경제성에 영향을 미치고 있다. HBM3 가격 상승이 이를 잘 보여준다: 단일 모듈의 비용은 2025년 2분기에는 180~220달러였으나, 2026년 1분기(계약 가격)에는 600~700달러로 상승했고, 2026년 2분기(현물 가격)에는 700~850달러에 도달했다.
SemiAnalysis에 따르면, HBM 가격이 오름에 따라 단일 Rubin Ultra 랙의 부품 목록(BOM) 비용은 약 660만 달러에서 800만 달러로 증가했다. 설계 조정을 거친 후 엔비디아는 이를 약 640만 달러 수준으로 낮출 수 있다.
재설계된 Rubin Ultra의 사양은 그 이야기를 말해준다: 최대 컴퓨팅 성능은 35 PFLOPs로 유지되지만, 메모리는 원래 Rubin의 288GB보다 낮은 192GB로 축소되었으며, 대역폭은 1 TB/s만 개선되어 제한적인 성능 향상만을 제공한다. 더 중요한 것은 총비용 대비 HBM 비용 비중이 거의 40%에서 28%로 떨어지는 반면, 인터커넥트 비용 비중은 4%에서 12%로 상승한다는 점이다.
전략적 초점은 시스템 레벨 인터커넥트 능력으로 이동했다. Rubin Ultra가 지원하는 NVL576 아키텍처는 표준 72개 카드 구성의 8배 규모인 최대 576개의 GPU를 NVLink를 통해 연결하여 하나의 통합 컴퓨팅 도메인을 형성할 수 있으며, 이는 개별 칩 사양의 감소를 대규모 시스템 확장을 통해 보완하기 위해 설계되었다.
시장은 즉각 반응했다. 한국 메모리 주가는 오늘 장 시작 직후 폭락했다. 베이징 시간 오전 11:45 기준, HBM 양대 강자인 SK하이닉스와 삼성전자는 각각 약 8% 하락했으며, 코스피 지수도 약 5% 하락했다.
우려되는 점은 명확하다: 만약 엔비디아의 Rubin Ultra 조정이 확인된다면(엔비디아는 아직 이 정보를 공식적으로 인정하지 않았다), 이는 AI 인프라에서 가장 핵심적인 구매자로서 엔비디아가 HBM 수요를 감소시킬 수 있음을 시사할 수 있다. 지난 2년간 HBM 벤더들은 칩 제조업체들이 지속적으로 HBM 구성을 늘리며 AI 확장의 혜택을 받았고, 이는 폭발적인 매출 성장과 공급망 전반에 걸친 벤더들의 가격 결정력 강화를 이끌었다.
엔비디아의 선택은 AI 칩 제조업체들이 최적화된 하드웨어 설계를 통해 개별 칩의 고용량 HBM 의존도를 줄이는 것을 고려하고 있음을 시사할 수 있다. 만약 이러한 접근 방식이 타당성이 입증된다면, HBM 벤더들의 지속적인 가격 인상 여지는 크게 제한될 수 있다.
AI 인프라 구축은 무분별한 사양 확장 및 무제한 가격 인상의 시대를 넘어 불가피하게 진행되고 있다. 컴퓨팅 파워 지형을 지배하는 엔비디아조차도 모든 비용을 세심하게 계산하기 시작했다.