英伟达发布Rubin芯片,拥有3360亿晶体管和50 petaflops AI性能。
英伟达公司(Nvidia Corp.)今日宣布推出Rubin,这是一款新旗舰图形处理器,推理性能是Blackwell的五倍。该GPU在CES消费电子展上与另外五款数据中心芯片一同首次亮相。Rubin包含3360亿个晶体管,在处理NVFP4数据时能提供50 petaflops的性能,而Blackwell最高为10 petaflops。Rubin的训练速度快250%,达到35 petaflops。该芯片的计算功能包括一个名为Transformer Engine的模块,该模块也搭载于Blackwell中。据英伟达介绍,Rubin的Transformer Engine基于一种较新的设计,具有称为硬件加速自适应压缩的性能提升功能,可以减少文件包含的比特数,降低AI模型需要处理的数据量。英伟达首席执行官Jensen Huang表示:"Rubin来得恰逢其时,因为AI计算在训练和推理方面的需求正在激增。通过我们每年推出新一代AI超级计算机的节奏,以及跨六款新芯片的极端协同设计,Rubin在通向AI下一个前沿的道路上迈出了巨大的一步。"
英伟达计划将Rubin作为一款名为Vera Rubin NVL72的一体机的一部分进行发货,该一体机集成了72个Rubin芯片和36个公司新推出的Vera中央处理器,也在CES上首次亮相。Vera包含88个核心,基于一种名为Olympus的定制设计,兼容Armv9.2(Arm Holdings plc的CPU指令集架构的一个广泛使用版本)。Vera Rubin NVL72采用无缆设计的磁盘阵列来容纳其芯片,与基于Blackwell的一体机相比,组装和维护时间最多可缩短18倍。RAS Engine是一个自动执行维护任务的子系统,已升级以提供容错功能并执行实时健康检查以验证硬件是否按预期工作。Vera Rubin NVL72提供260 terabits每秒的带宽,超过整个互联网,系统中共有220万亿个晶体管。
三款新的网络芯片便于系统内部和跨系统的数据交换。NVLink 6 Switch使Vera Rubin NVL72机架内的多个GPU能够同时交换数据以协调分布式AI模型。Spectrum-6是一款以太网交换机,可便于安装在不同机架中的GPU之间的连接。ConnectX-9是一款SuperNIC,一种硬件接口,使服务器能够访问数据中心网络,同时执行历来由服务器CPU承担的网络任务,从而为AI工作负载留出更多处理能力。此外,BlueField-4是一款数据处理单元,可将工作从服务器的主处理器卸载到网络、网络安全和存储管理操作中,并为新的推理上下文内存存储平台提供支持,该平台设计用于优化大语言模型的键值缓存。
Vera Rubin NVL72将与一款较小的一体机DGX Rubin NVL8一同发货,后者包含8个Rubin GPU而非72个。两款系统构成了DGX SuperPOD的基础,这是一种用于构建AI集群的参考架构,将英伟达的最新芯片与Mission Control结合,后者是一个用于管理AI基础设施的软件平台。Rubin驱动的系统将在2026年下半年开始发货。