AMD的Helios平台据称可将AI数据中心运营成本降低30%。
AMD正将企业AI基础设施的范式从单机服务器的总拥有成本(TCO)转向机架级效率。这一战略转变认识到,现代复杂的AI工作负载——包括代理式AI(agentic AI)——需要集成管理电力、冷却、网络、内存和软件,而非孤立地比较处理器性能。在2026年9月2日发布的一篇题为《数据中心数学已变》的思想领导力文章中,AMD主张企业必须重新考虑基础设施规划,优先关注整合、电力可用性和整体TCO。随着超大规模企业和企业面临AI数据中心的主要瓶颈:电力输送、热管理和物理容量,而非仅仅是计算吞吐量,这一论点应运而生。
传统的基础设施规划通常从服务器级别的指标开始:处理器性能、单位成本和所需数量。AMD认为这种方法忽视了连锁的基础设施费用。整合工作负载可以减少物理占地面积、电力消耗、冷却需求以及与插槽或核心挂钩的软件许可费用。为了支持这种模式,AMD第五代EPYC处理器提供高达192个核心且频率达到5 GHz的配置。即将推出的第六代EPYC“Venice”系列将扩展至256个核心。作为一个具体例子,AMD指出,配备AMD EPYC 9965处理器的14台服务器可以匹配100台服役五到七年的旧款双路Intel Xeon Platinum 8280系统的整数性能。这在保持同等性能的同时使服务器数量减少了86%,据模型测算可节省69%的电力消耗和41%的三年期TCO。AMD澄清称,这些数据代表内部建模结果,而非独立的跨环境验证。
行业历史上对加速器的执着随着代理式AI的兴起而演变。与单一用途的推理引擎不同,AI代理必须推理、检索信息、查询数据库、调用API、执行工具并合成响应。AMD将其描述为一种全栈工作负载,其中CPU、加速器、内存和网络协同运作至关重要。CPU现在除了传统的数据库角色外,还处理关键的编排任务,与GPU、FPGA和其他加速器在异构架构中互补。因此,决策者的经济考量已从最大化每美元浮点运算次数(FLOPS)转变为优化每瓦特令牌数、每美元令牌数、机架利用率和电源使用效率(PUE)。
AMD应对这一挑战的方案是AMD Helios机架级AI平台。最新的参考设计集成了72个AMD Instinct MI455X GPU、18个第六代EPYC Venice CPU以及Pensando网络交换机,所有组件均通过ROCm软件栈进行管理。该架构遵循开放的行业标准,包括来自Open Compute Project的Open Rack Wide、UALink以及Ultra Ethernet Consortium互连技术。内存架构受到特别重视,以缓解大语言模型的瓶颈。每个MI455X GPU配备高达432 GB的HBM4内存,带宽达23.3 TB/s,提供的内存容量比同等的Nvidia Vera Rubin GPU高出50%。在机架层面,AMD Helios提供31 TB的内存、2.9 exaFLOPS的FP4性能、260 TB/s的纵向扩展(scale-up)内存带宽以及43 TB/s的横向扩展(scale-out)内存带宽。对于异构系统而言,内存带宽和容量往往比原始FLOPS更重要,因为它们决定了加速器与CPU之间的并行处理数据移动。
AMD将经济性置于其战略的前沿,声称其解决方案相比领先竞争对手的等效配置,每美元可提供多达30%更多的推理令牌。这一指标源自AMD Performance Lab的测试,该测试使用Kimi K2 Thinking基准将Helios设置与Nvidia Vera Rubin NVL72进行了比较。AMD指出,这是专有工作负载的比较,而非第三方基准测试。其背后的经济逻辑遵循一个简化的公式:总AI成本 ≈ (硬件 + 电费 + 冷却 + 网络 + 软件 + 运营)÷ 生成的有用令牌数。在以推理为主的部署中,每令牌的成本越来越超过初始GPU采购价格。
AMD的机架级战略与企业可持续发展目标直接一致。该公司目标是到2030年,相对于2024年的基线,实现AI训练和推理机架级能效提升20倍。AMD预计,大约两个2030年代的AMD机架即可匹配2024年部署的570个机架的计算输出,将使用阶段的电力消耗降低20倍,碳强度降低28倍。这些数字仍是基于AMD硅片和系统开发轨迹的路径图预测,其方法论已由能源效率专家Jonathan Koomey博士验证。虽然被表述为可持续发展目标,但这些指标强调了机架级效率如何成为一项基本的经济迫切需求。
尽管Nvidia在AI加速器领域保持主导地位,但AMD正在更广泛的基础设施频谱上进行竞争。AMD并未将Instinct定位为独立的GPU替代品,而是将EPYC CPU、MI455X加速器、Pensando网络和ROCm统一为一个连贯的架构。这种方法已经得到主要基础设施买家的验证。AMD和Meta宣布了一项涵盖多达6 GW AMD GPU的合作协议,初期部署集中在基于MI450的定制GPU、第六代EPYC Venice、ROCm和Helios上。OpenAI同样承诺部署多达6 GW的AMD GPU,而Microsoft正在Azure上扩展AMD基础设施,并计划利用Helios进行前沿模型推理。这些协议并不意味着立即取代Nvidia的市场地位;相反,它们反映了超大规模企业对架构多样性、供应链韧性和特定工作负载基础设施经济性的日益增长的需求。对于AMD而言,目标不仅仅是销售加速器:它旨在说服客户从根本上重新评估整个数据中心机架的架构方式和衡量标准。