Blackwell Ultra交付1.1艾浮点FP4计算、288GB HBM3e内存,性能比GB200提升50%。
NVIDIA宣布推出Blackwell Ultra,在一年前推出的突破性Blackwell架构基础上进行扩展。该公司正在向市场推出最新的AI计算能力,为主要AI和数据中心供应商提供改进的供应和硬件产品。这款下一代产品包括NVIDIA GB300 NVL72机架级解决方案和NVIDIA HGX B300 NVL16系统,代表了从最初的B100和B200 GPU系列的重大进步。
Blackwell Ultra的核心B300芯片在原始Blackwell的基础上进行了扩展,内存密度增加,采用高达12-Hi HBM3E堆栈,为更快的AI提供增强的计算能力。这些芯片配合最新的Spectrum Ultra X800以太网交换机,具有512-Radix连接。GB300 NVL72相比NVIDIA GB200 NVL72提供1.5倍更多的AI性能,同时与采用NVIDIA Hopper构建的AI工厂相比,将Blackwell的收入机会增加50倍。
GB300 NVL72在机架级设计中连接72个Blackwell Ultra GPU和36个基于Arm Neoverse的NVIDIA Grace CPU,充当为测试时间缩放而构建的单一大规模GPU。这种架构使AI模型能够访问平台增加的计算能力,以探索问题的不同解决方案,并将复杂请求分解为多个步骤,从而产生更高质量的响应并支持更高级的AI推理能力。
GB300 NVL72将在NVIDIA DGX Cloud上提供,这是一个端到端、完全托管的AI平台,部署在主流云服务上,通过软件、服务和AI专业知识为不断发展的工作负载优化性能。NVIDIA DGX SuperPOD配备DGX GB300系统,采用GB300 NVL72机架设计,为客户提供一个交钥匙AI工厂。此外,NVIDIA HGX B300 NVL16相比Hopper一代提供11倍更快的大型语言模型推理速度、7倍更多的计算能力和4倍更大的内存,为最复杂的工作负载(如AI推理)提供突破性的性能。