Nvidia的Kyber GPU机架将配备340.4TB DRAM,HBM4E定价$19.76/GB,完整机架定价4160万美元。
NVIDIA即将推出的Vera Rubin Ultra系统面临HBM规格缩减的持久传言,该公司正寻求保护利润率。美国银行近日发布了一项分析,量化了这些新型Vera Rubin Ultra基础Kyber机架内HBM4E与基于LPDDR5X的SOCAMM2模块之间的成本动态。
每个基础Rubin GPU目前配备8个堆栈的288 GB HBM4内存,为每个GPU提供高达22 TB/s的带宽。而Vera CPU则摒弃了标准服务器RDIMM,转而采用基于LPDDR5X的SOCAMM2模块——这些模块采用压缩式连接器,紧贴主板安装以缩短电气迹线,使LPDDR5X具备数据中心运行所需的信号完整性和低延迟特性。每个Vera CPU配备8个SOCAMM2插槽,通过192 GB模块提供1.5 TB LPDDR5X的理论内存容量。
根据美国银行分析,HBM4E的成本为每千兆字节19.76美元。每个144-GPU的Kyber机架将包含216 TB LPDDR5X内存,成本约280万美元,配合124.4 TB HBM4E,成本约250万美元。每个Kyber机架的总价格达到4160万美元。美国银行指出,尽管HBM容量和成本上升,但HBM在机架经济中仍为相对较小的成分,占比5-6%,相比之下在Blackwell Ultra系统中为7.5%。
瑞银集团估计Vera Rubin超级芯片配置中每个Rubin GPU的成本为9,247美元,包括HBM4、封装、转接器及周边设备。每个Vera CPU的成本约为20,059美元,包括SOCAMM2 LPDDR5X,加上350美元的其他板卡组件。DRAM约占GPU成本的一半,而在CPU成本中几乎占据全部(扣除内存后仅剩704美元)。
与Blackwell服务器相比——Grace CPU配备480 GB内存,Blackwell GPU提供192 GB(GB200)或高达288 GB(GB300)的HBM3E——内存容量已大幅扩展。Vera Rubin机架包含跨HBM4和SOCAMM2的74.7 TB总内存。对于Kyber机架,该容量增至340.4 TB。