AMD正在被邀请建立由120万个GPU驱动的世界最快AI超级计算机。

据AMD称，数据中心对计算能力的需求正在以惊人的速度增长。该公司透露，它已经收到了认真的询问，要求构建包含120万个GPU或更多GPU的单个AI集群。这一披露来自《The Next Platform》与AMD数据中心解决方案集团执行副总裁兼总经理Forrest Norrod的一次讨论，讨论主题是AMD在数据中心领域的未来。当被直接问及该公司是否收到过规模达120万个GPU的集群询问时，Forrest确认这一评估几乎完全准确，声称："在那个范围内？是的"，并强调"我说的是一台机器。"

120万个GPU的规模与现有基础设施相比是非凡的。目前运营中最快的超级计算机Frontier"仅有"37,888个GPU。即使是世界上最强大的超级计算机也没有达到数百万GPU的规模，这意味着任何这样的集群都将是当今最大已知集群的30倍。

构建如此规模的AI集群面临深层的技术挑战。AI工作负载对延迟极其敏感，特别是尾延迟和离群值，其中某些数据传输花费的时间远长于其他传输，从而中断工作负载。此外，当今的超级计算机必须缓解在当前规模下每隔几小时发生一次的GPU或其他硬件故障——这些问题在扩展到如此前所未有的规模时会变得更加严重。除了这些运营问题之外，所需的电力输送规模将相当于一座核电厂。

尽管存在这些障碍，对百万GPU集群的探索反映了塑造2020年代的AI竞争的强度。Forrest没有说明哪个组织正在考虑构建如此规模的系统，但指出"非常理性的人"正在考虑花费数百亿至数千亿美元在AI训练集群上，这解释了为什么首先会考虑拥有数百万GPU的集群。如果实现这样的规模在可能性范围内，竞争压力表明有人会为了追求更强大的AI处理能力而尝试它。