Nvidia Blackwell Ultra在全部七项MLPerf AI训练基准测试中获胜，GB300 NVL72创造Llama 405B 10分钟训练记录

NVIDIA宣布其Blackwell Ultra驱动的GB300 NVL72平台在所有MLPerf训练基准测试中均获得第一名。该公司声称是唯一在所有MLPerf测试中提交结果的厂商，并扩大了自己与竞争对手之间的性能差距。

基准测试结果表明，Blackwell Ultra GPU在关键训练工作负载中性能明显优越。在Llama 3.1 40B预训练中，GB300 GPU相比H100性能提高4倍以上，相比Blackwell GB200性能提高近2倍。同样地，在Llama 2 70B微调中，8个GB300 GPU相比H100性能提高5倍。

NVIDIA将其优势归因于多个因素，包括提供相对竞争对手的重大杠杆优势的CUDA生态系统。该机架系统配备了800 GB/s网络的Quantum-X800 InfiniBand。GB300 NVL72为每个GPU提供279 GB HBM3e内存，GPU和CPU内存总容量达到令人难以置信的40 TB，可加快AI工作负载的处理。

实现这些性能提升的关键策略是NVIDIA在每一层都采用FP4精度进行LLM训练，这使计算速度相比FP8提高了一倍。Blackwell Ultra进一步将其提升到3倍，使该公司能够在不增加GPU数量的情况下实现卓越性能。对于Llama 3.1 405B基准测试，结果是使用5,120个Blackwell GB200 GPU实现的，仅需10分钟即可完成训练。