英伟达推进超越传统云数据中心范围的AI推理和边缘计算能力。
NVIDIA今天在MLPerf推理0.5基准测试中取得了最快的成绩。MLPerf推理0.5是业界首个独立的AI推理基准测试套件，此次成绩展示了NVIDIA Turing™ GPU在数据中心中的性能和NVIDIA Xavier™片上系统在边缘计算中的性能。这些成绩延续了该公司在最近AI基准测试中的强劲表现，此前NVIDIA在7月份的MLPerf 0.6 AI训练基准测试中赢得了多项奖项，创造了8项训练性能纪录。
MLPerf的五项推理基准测试涵盖了多种形态和四种推理场景，包括图像分类、目标检测和翻译等成熟的AI应用。NVIDIA在针对数据中心的两种场景（服务器和离线）中的全部五项基准测试中都名列前茅，Turing GPU在商用产品中提供了每个处理器最高的性能。在两种边缘计算场景（单流和多流）中，Xavier在商用边缘和移动SoC中提供了最高的性能。
NVIDIA是唯一跨越所有五项MLPerf基准测试提交成绩的AI平台公司。该公司的NVIDIA GPU在全球最大的云基础设施中加速大规模推理工作负载，这些云基础设施包括阿里巴巴云、AWS、谷歌云平台、微软Azure和腾讯。沃尔玛和宝洁等世界顶级企业和组织正在使用NVIDIA的EGX边缘计算平台和AI推理能力在边缘进行复杂的AI工作负载运算。
NVIDIA的所有MLPerf成绩都是使用NVIDIA TensorRT™ 6实现的，这是一款高性能深度学习推理软件，可在从数据中心到边缘的生产环境中优化和部署AI应用。新的TensorRT优化也以开源的形式发布在GitHub仓库中。为了扩展其推理平台，NVIDIA推出了Jetson Xavier NX，被称为世界上最小、最强大的用于机器人和边缘嵌入式计算设备的AI超级计算机，采用了在MLPerf推理0.5基准测试中使用的Xavier SoC的低功耗版本。