NVIDIA推出GB200 NVL4，配备四个Blackwell GPU、双Grace CPU、1.7TB内存和5.4kW功耗。

NVIDIA已宣布推出新的GB200 NVL4，这是对原始GB200 Grace Blackwell超级芯片AI解决方案的重大扩展。新的GB200 NVL4配置了2个Blackwell GB200 GPU和2个Grace CPU，设计为单服务器解决方案，具有4路NVLink域，可控制1.3TB的相干内存。

GB200 NVL4相比前一代Hopper GH200 NVL4提供了显著的性能提升，在模拟中提供2.2倍的性能，训练和推理性能提高1.8倍。虽然单个GB200 Grace Blackwell超级芯片的功耗约为2700W，但更大的GB200 NVL4解决方案需要约6000W的功耗来支持其扩展功能。

新的GB200 NVL4具有1.3TB的相干内存，在NVLink上跨所有四个GB200 GPU共享。NVIDIA指出其第五代NVLink芯片间互连在CPU和GPU之间实现了高速通信，每个GPU的双向吞吐量高达1.8TB/秒。

除了GB200 NVL4的公告外，NVIDIA还为其Hopper产品线推出了扩展产品，推出了H200 NVL，这是一个基于PCIe的Hopper卡解决方案。H200 NVL可通过NVLink域连接最多4个GPU，提供标准PCIe解决方案带宽的7倍，并提供为混合HPC和AI工作负载优化的灵活服务器配置。

H200 NVL的规格包括比前几代更多1.5倍的HBM内存和1.7倍的LLM推理性能，以及1.3倍的HPC性能。该卡总共具有114个SM，包含14,592个CUDA核心、456个张量核心和最高3 TFLOPS的FP8（FP16累积）性能。它包含80GB的HBM2e内存，采用5120位内存接口，功耗最高350W。