英伟达推出Vera Rubin GPU之际,韩国供应商HBM成本飙升,需求激增下内存供应趋紧。
存储芯片约占英伟达Vera Rubin芯片成本的62%。Vera Rubin是英伟达下一代人工智能平台,目前正进入大规模生产阶段。该超级芯片集成了一个Vera CPU(中央处理器)和两个Rubin GPU(图形处理器),成本为38,902美元(约5,540万韩元)。其中,存储器件成本为24,297美元(约3,460万韩元),包括第六代高带宽存储(HBM4)和SOCAMM2。
根据全球投资银行瑞银(UBS)对Vera Rubin超级芯片的物料清单分析(ChosunBiz于8月10日获得),Rubin GPU相关成本(包括HBM4、中介层、先进封装和周边元器件)总计9,247美元(约131.7万韩元)。Vera CPU(包括SOCAMM2)成本为20,059美元(约285.6万韩元),其他电路板元器件成本为350美元(约50万韩元)。
安装在Rubin GPU上的HBM4成本为4,943美元(约70.4万韩元),占总成本的12.7%。连接到Vera CPU的SOCAMM2成本为19,355美元(约2,756万韩元),占49.8%——这种结构中,CPU存储的成本占比远高于HBM4。
市场对Vera Rubin的反应很积极。英伟达上个月报告称,Vera Rubin NVL72系统正在谷歌云、微软Azure、甲骨文云、CoreWeave和Nevius等平台上运行。SpaceX首席执行官埃隆·马斯克在8月4日的财报发布会上称Vera Rubin是"最佳架构",并概述了建立以英伟达GPU为中心的人工智能基础设施的计划。SpaceX计划到年底前获得超过2吉瓦(GW)的计算基础设施,并在明年底前增加到近10吉瓦。业界观察人士认为这些大客户的部署和购买计划是Vera Rubin销售持续强劲的信号。如果在Blackwell之后销售量保持高位,三星电子、SK海力士和美光向英伟达的存储芯片发货也会增长。这三家公司都在扩大产品线,超越HBM4,纳入SOCAMM2和企业固态硬盘(eSSD)。
在前代基于Blackwell Ultra的GB300芯片中,存储芯片占总成本的53%。在Vera Rubin中,存储成本占比上升到62%——增加了9个百分点。瑞银估计GB300超级芯片的总成本为18,203美元(约2,592万韩元),其中存储成本为9,714美元(约1,383万韩元)。虽然Vera Rubin的总成本相比其前代产品增加了约2.1倍,但存储成本增加了2.5倍——增幅更大。SOCAMM2是这一成本占比上升的主要驱动力。
每个Rubin GPU包含8个12层HBM4堆栈,总共提供288吉字节(GB)——比Blackwell B200的HBM3E(192 GB)多50%,但与Blackwell Ultra B300的容量相同。相比之下,Vera CPU支持高达1.5太字节(TB)的LPDDR5X,超过前代Grace CPU最大480 GB容量的3倍多。
SOCAMM2将低功耗DRAM(LPDDR5X)模块化用于AI服务器——LPDDR5X传统上用于智能手机、平板电脑和笔记本电脑。多个DRAM模块被捆绑在一起,放置在CPU附近,设计为可更换的。虽然带宽低于HBM,但它提供大容量且功耗更低,并提供比服务器DDR5注册双列直插式内存模块(RDIMM)更高的带宽和功率效率。
Vera Rubin NVL72是一个AI系统,在单个服务器机架中集成了72个Rubin GPU和36个Vera CPU。一个机架总共包含74.7 TB的DRAM:20.7 TB的HBM4和54 TB的CPU LPDDR5X。高端智能手机通常配备12 GB的LPDDR5X;单个Vera Rubin NVL72机架中的CPU LPDDR5X相当于大约4,500部智能手机。
三星电子、SK海力士和美光正在扩大供应范围,从HBM扩展到低功耗DRAM和存储。三星推出了HBM4、SOCAMM2和PM1763存储驱动器,称之为"英伟达存储产品"。SK海力士正在大规模生产192 GB SOCAMM2模块,采用第六代(1c)LPDDR5X,工艺为10纳米级。美光在3月宣布开始大规模生产用于Vera Rubin的12层36 GB HBM4和192 GB SOCAMM2。
然而,英伟达因存储供应限制而进行的规格调整对三家存储公司的收益构成了变量。IT媒体The Information报道称,英伟达正在考虑降低下一代GPU"Rubin Ultra"的HBM容量,与原计划不同。该公司在最近几周测试了至少三个样品,其中一些芯片的存储容量低于最初披露的容量。
英伟达最初计划在单个Rubin Ultra GPU上安装1 TB的第七代HBM(HBM4E),使用16个HBM4E堆栈。据报道,测试中的一些样品配备192 GB,其他的256 GB——均少于当前量产Rubin GPU上的288 GB HBM4。规格变更的一个原因是供应商可能难以在发布日期前生产足够的HBM4E。
市场研究公司TrendForce也分析称,英伟达正在为Rubin Ultra评估多种HBM配置,包括现有的12层HBM4E、8层HBM4E以及12层和8层HBM4变体。此外,考虑到2027年之前可能存在的LPDDR5X短缺,Vera Rubin超级芯片的SOCAMM容量已被减少到最初计划的约一半。
一位半导体行业官员表示:"作为从不在性能上妥协的英伟达,愿意放弃部分规格这一事实可以解释为存储公司供应商优势地位得到体现的结果。虽然英伟达在AI加速器市场上的垄断地位正在逐渐减弱,但它仍然是AI存储市场最大的买家,因此每个供应商如何分配产能将决定三家存储公司收益改善的程度。"