AMD Helios机架规模系统在AI计算密度上比Nvidia Vera Rubin NVL72高15%,在标准工作负载上匹配性能。

AMD正式推出了Helios，这是一款为AI基础设施和大规模基础模型训练与推理而设计的机架规模超级计算机解决方案。该系统将72个AMD Instinct MI455X GPU与最新一代第六代AMD EPYC"Venice"服务器CPU相结合，集成了AMD ROCm软件和AMD Pensando网络，可提供2.9ExaFlops的FP4计算性能。

相比NVIDIA的Vera Rubin NVL72机架规模解决方案，AMD声称Helios的峰值FP4计算性能高出15%。内存优势更加明显：Helios配备31TB的HBM4内存容量，比Vera Rubin的方案多出50%。该系统提供43TB/s的横向扩展带宽和1.7PB/s的内存带宽。

根据AMD的说法，这些规格转化为部署大规模AI基础设施的客户的实实在在的经济效益。该公司声称Helios相比竞争方案可提供30%更多的每美元token数，这是AI公司寻求优化基础设施成本的重要指标，因为AI训练和推理容量的需求持续增长。

AMD将Helios定位为一个构建块，使客户能够高效地从单个机架扩展到大型千瓦级AI集群，同时最大化性能、每瓦性能和每token成本。集成的机架规模设计旨在简化部署，同时为下一代AI基础设施部署提供所需的计算、网络和开源软件基础。