NVIDIA Rubin CPX规格:128GB GDDR7内存、30 PFLOPS FP4、优化用于百万令牌上下文和生成式AI推理。
NVIDIA公布了其下一代Rubin AI平台的新细节,推出了Rubin CPX,这是一款专为大规模上下文处理而设计的GPU。Rubin CPX使AI系统能够以突破性的速度和效率处理百万级令牌的软件编码和生成式视频。该芯片在单一设计中集成了视频解码器、编码器以及长上下文推理处理,为视频搜索和高质量生成式视频等长格式应用提供了前所未有的能力。
Rubin CPX将与NVIDIA Vera CPU和Rubin GPU一起工作,在新的Vera Rubin NVL144 CPX平台内运行,这是一个集成的MGX系统,提供8艾次浮点运算的AI计算能力。这比NVIDIA的GB300 NVL72系统提供了7.5倍的AI性能,并在单个机架中拥有100TB的高速内存和每秒1.7拍字节的内存带宽。该平台的注意力性能也比GB300 NVL72高3倍。想要重用现有Vera Rubin 144系统的客户也可以购买单个Rubin CPX计算托盘。
Rubin CPX GPU提供30 PFLOPs的NVFP4 AI计算能力,并配备高达128 GB的GDDR7内存。NVIDIA为了成本效率选择了GDDR7而非HBM。与上一代相比,该芯片的NVENC和NVDEC能力提高了4倍,提供了扩展的视频处理能力以支持生成式AI任务。Rubin CPX采用成本高效的单芯设计,具有强大的NVFP4计算资源,针对AI推理任务的极高性能和能源效率进行了优化。
作为比较,非CPX版本的Vera Rubin NVL144平台配备四个Rubin GPU和两个Vera CPU,提供3.6艾次浮点运算的NVFP4计算、1.4 PB/s的HBM4带宽和75 TB的容量。Vera Rubin CPX平台与Grace Blackwell平台相比,提供7.5倍更高的AI计算、3.0倍更高的带宽和4.0倍更高的内存(GDDR7中为150 TB)。虽然标准Rubin平台采用2网格大小的GPU,Rubin Ultra采用4网格大小的GPU,但CPX芯片采用单芯和整体设计。NVIDIA预计第一批Rubin CPX系统将在2026年底上市,而Vera Rubin预计将很快投入生产,正式发布计划在GTC 2026进行。