2026年9月16日星期三
AI 基础设施 · 新闻与分析
首页头条报道
头条 · 报道

英伟达推出Vera Rubin NVL72 AI超级计算机,相比Blackwell推理性能提升5倍,成本降低10倍,2026年下半年发布。

下一代推理基础设施大幅改善大规模AI服务的经济效益。
行业媒体Slicast · 2026年1月6日 UTC 12:00 · 全球 · 来源: tomshardware.com
重要度 90

2026年CES大会上,英伟达首席执行官黄仁勋正式推出了Vera Rubin,这是该公司下一代AI数据中心机架级架构,旨在让英伟达在AI革命不断扩展的浪潮中保持领先地位,因为该技术正在扩展到机器人、自动驾驶汽车和更广泛的物理世界。Vera Rubin是英伟达所说的跨越六类芯片的"极致协同设计"的结果:Vera CPU、Rubin GPU、NVLink 6交换机、ConnectX-9 SuperNIC、BlueField-4数据处理单元和Spectrum-6以太网交换机。这些构件组合在一起形成了Vera Rubin NVL72机架,代表了AI计算交付的重大飞跃。

Rubin GPU相比Blackwell带来了异常的性能提升,使用NVFP4数据类型可提供50 PFLOPS的推理性能——是Blackwell GB200的5倍——以及35 PFLOPS的NVFP4训练性能,是Blackwell的3.5倍。为了支持这种原始计算能力,每个Rubin GPU封装包括8个HBM4内存堆栈,容量为288GB,带宽为22 TB/s。Vera CPU实现了88个定制的Olympus Arm核心,具有"空间多线程"能力,可支持高达176个在飞线程,NVLink C2C互连的带宽翻倍至1.8 TB/s。每个Vera CPU可以访问高达1.5 TB的SOCAMM LPDDR5X内存,内存带宽高达1.2 TB/s。

为了处理混合专家架构的通信需求并跨多个机架扩展,Vera Rubin引入了NVLink 6用于横向扩展网络,将每GPU结构带宽提升到3.6 TB/s(双向)。每个NVLink 6交换机拥有28 TB/s的带宽,每个Vera Rubin NVL72机架包含9个这样的交换机,总横向扩展带宽为260 TB/s。为了扩展到由8个机架组成的DGX SuperPod,英伟达推出了采用共封装光学器件的Spectrum-X以太网交换机,该光学器件由其Spectrum-6芯片构成。SN688提供409.6 Tb/s的带宽,支持512个800G以太网端口或2048个200G端口,而SN6810提供102.4 Tb/s的带宽,拥有128个800G端口或512个200G以太网端口。两种交换机都采用液冷,提供了更好的功率效率、可靠性和正常运行时间。

随着上下文窗口增长到数百万个令牌,英伟达推出了推理上下文内存存储平台,使用下一代BlueField 4 DPU来创建一个新的内存层,能够在AI基础设施中高效共享和重复使用关键值缓存数据,从而提高响应速度和吞吐量。Vera Rubin首次将英伟达的可信执行环境扩展到整个机架,在芯片、结构和网络级别确保AI前沿实验室最先进模型的保密性和安全性。每个Vera Rubin NVL72机架可提供3.6 exaFLOPS的NVFP4推理性能、2.5 exaFLOPS的NVFP4训练性能、54 TB连接到Vera CPU的LPDDR5X内存和20.7 TB HBM4,带宽为1.6 PB/s。

英伟达实现了多项可靠性、可用性和可服务性改进,包括无需电缆的模块化托盘设计以加快组件更换、改进的NVLink恢复能力以支持零停机维护,以及第二代RAS引擎实现零停机健康检查。每个NVL72机架的定价高达880万美元,英伟达声称与Blackwell相比,该系统训练混合专家模型所需的GPU数量仅为1/4,且Rubin可以将MoE推理的每令牌成本降低多达10倍,适用于广泛的模型。

阅读原文
英伟达推出Vera Rubin NVL72… · Slicast