Nvidia发布GB200 Grace Blackwell超级芯片,单一处理器集成四个B200 GPU和两个Grace CPU。
英伟达宣布推出两款针对不同数据中心市场细分的GPU产品。GB200 Grace Blackwell NVL4超级芯片代表了高性能端,搭载四个通过NVLink连接的B200 Blackwell GPU和两个基于Grace的ARM CPU,全部集成在单块主板上。该配置提供1.3TB的一致性内存,主要面向HPC和AI混合工作负载。根据英伟达的性能声称,GB200 NVL4相比其前代产品英伟达GH200 NVL4 Grace Hopper超级芯片的模拟性能提升2.2倍、训练性能提升1.8倍、推理性能提升1.8倍。GB200 NVL4将于2025年下半年由包括MSI、华硕、技嘉、纬创、和硕、ASRock Rack、联想、惠普企业等多家厂商提供。
在市场的另一端,英伟达发布了H200 NVL,这是一款为现有数据中心基础设施设计的双槽风冷GPU。H200 NVL具有PCIe 5.0连接,带宽为128 GB/s,采用了为机架式解决方案优化的直通冷却设计,进气方向从右至左且不采用鼓风式风扇。该GPU的FP64性能达30 TFLOPS,FP32性能达60 TFLOPS,张量核心能力包括FP64 60 TFLOPS、TF32 835 TFLOPS、BFLOAT16 1,671 TFLOPS、FP16 1,671 TFLOPS、FP8 3,341 TFLOPS和INT8 3,341 TFLOPS。
与前代产品相比,H200 NVL大幅超越其替代产品H100 NVL,提供1.5倍的内存容量和1.2倍的内存带宽。这转化为推理性能最高提升1.7倍,HPC工作负载性能提升1.3倍。与安培架构GPU相比,H200 NVL速度快2.5倍。该GPU还支持NVLink,单个GPU的带宽可达900 GB/s,允许系统提供商在单一机架中连接最多四个GPU。
H200 NVL针对大多数现有数据中心配置进行了优化。根据英伟达的调查数据,大约70%的企业机架采用功耗为20kW或以下的风冷方案。作为一款PCIe GPU,H200 NVL允许数据中心提供商重新使用现有机架并仅更换GPU,减少浪费并大幅降低硬件升级成本。H200 NVL将由戴尔、惠普企业、联想和超微提供,同时还将由包括Aivres、ASRock Rack、华硕、技嘉、英业达、英特智、微星、和硕、QCT、纬创和威浦等其他平台提供商提供。