H100 GPU在MLPerf v3.0基准测试中建立了AI工作负载的性能领先地位。

NVIDIA H100张量核心GPU在最新MLPerf训练基准测试的所有八项测试中创造了新记录，特别是在新的生成式AI测试中表现出色。由初创公司Inflection AI联合开发、由GPU加速工作负载专业云服务提供商CoreWeave运营的3,584个H100 GPU集群，在不到11分钟的时间内完成了一项庞大的基于GPT-3的训练基准测试。CoreWeave联合创始人兼首席技术官Brian Venturo表示，"感谢我们数千个H100 GPU在快速、低延迟InfiniBand网络上的部署，我们的客户今天能够大规模构建最先进的生成式AI和大语言模型。"由来自DeepMind的Mustafa和Karén Simonyan以及Reid Hoffman在2022年初共同创立的Inflection AI，利用这种性能构建了其个人AI产品Pi背后的先进大语言模型。Inflection AI首席执行官Mustafa Suleyman指出，"任何人现在都可以体验个人AI的力量，这得益于我们在CoreWeave强大的H100 GPU网络上训练的最先进大语言模型。"

H100 GPU在包括大语言模型、推荐系统、计算机视觉、医学影像和语音识别在内的所有基准测试中都表现最出众，是唯一能够运行全部八项测试的芯片，充分展示了NVIDIA AI平台的多功能性。在每一项MLPerf测试中，H100 GPU都创造了AI训练的新的大规模性能记录，并在要求苛刻的大语言模型测试中实现了近似线性的性能扩展，从数百个到数千个H100 GPU的提交都保持了这种性能扩展。CoreWeave从云端提供的性能与NVIDIA从本地数据中心运行的AI超级计算机所实现的性能相当，这证明了CoreWeave所使用的NVIDIA Quantum-2 InfiniBand网络的低延迟特性。在本轮测试中，MLPerf还更新了推荐系统基准测试，采用了更大的数据集和更现代的AI模型，而NVIDIA是唯一在增强基准测试中提交结果的公司。

近十几家公司在NVIDIA平台上提交了结果，包括ASUS、Dell Technologies、GIGABYTE、Lenovo和QCT等主要系统制造商的提交，其中30多项提交在H100 GPU上运行。MLPerf结果现已在H100、L4和NVIDIA Jetson平台上发布，涵盖AI训练、推理和HPC基准测试，预计未来还会有NVIDIA Grace Hopper系统上的提交。这些基准测试得到了包括Arm、百度、Facebook AI、Google、哈佛大学、英特尔、微软、斯坦福大学和多伦多大学在内的广泛组织的支持，确保了用户在评估AI平台时的透明性和客观性。配备NVIDIA GPU的数据中心使用更少的服务器节点，消耗更少的机架空间和能源，NVIDIA在最新Green500排行榜前30名超级计算机中占据了22个。这些测试所使用的全部软件都可从MLPerf存储库获得，这些优化不断整合到NGC（NVIDIA的GPU加速软件目录）中提供的容器中，使几乎任何人都能够实现这些世界级的成果。