埃隆·马斯克的xAI在部署660,000块英伟达Blackwell GPU后宣布了到达144万GPU产能的路线图。
埃隆·马斯克的xAI公司计划在其Colossus超级计算机上部署660,000个英伟达Blackwell GPU芯片,到年底使其加速器总数达到1.44百万个,这是根据9月25日在X平台上的帖子公开的。该公司计划在9月底前上线220,000个GB300 GPU,11月再上线220,000个,12月底再上线第三批220,000个,前提是硬件能够按时交付和部署工作能够完成。
这一扩展将使xAI在其设施中拥有1.1百万个GB300 GPU。Colossus 1目前运行230,000个GPU,包括150,000个H100、50,000个H200和30,000个GB200。Colossus 2拥有550,000个GPU,包括110,000个GB200和440,000个GB300。新增加的芯片将使GB300的数量从440,000个增加到1.1百万个,最终完成一个包含150,000个H100 GPU、50,000个H200 GPU、140,000个GB200 GPU和1.1百万个GB300 GPU的阵列。
英伟达的GB300 NVL72平台采用Blackwell架构,用于大规模AI工作负载。Colossus 2采用单一代次设计,提供了比混合Hopper和Blackwell系统的Colossus 1更一致的软件和网络环境。
xAI使用统一的加速器来训练其AI系统Grok。不同的GPU代次迫使工程师围绕最慢的硬件来调整工作负载,这降低了集群效率并使调度更加复杂。Colossus 2仅使用Blackwell的设计创建了一个统一的训练池,而xAI将Colossus 1的混合阵列保留用于其他工作负载,包括租赁给Anthropic的推理容量。训练和推理对数据中心提出了不同的要求:训练在许多加速器之间同时移动大型数据集,而推理服务于已完成的模型,并可以根据工作负载大小和响应目标更好地利用不同的硬件。
电力可用性已成为中心制约因素。xAI在Colossus附近安装了燃气轮机以提供额外容量,但居民就许可问题对该项目提出了诉讼。xAI承诺在一个1.2吉瓦的发电厂投运后的一年内移除该设备。该发电厂将为Colossus扩展提供专属电力。虽然1.2吉瓦的电力供应单独无法支持未来的每一次扩展,但它将支持当前阵列的重大增长。数据中心运营商必须获得土地、电网连接、发电容量、冷却系统和高速网络,才能将购买的GPU转化为可用的计算能力。
马斯克将100万GPU这一里程碑描述为早期阶段。他表示该公司计划到2027年将数据中心容量增加七倍,到2030年追求5000万个H100等效GPU。这些数字包括未来可能采用更新型加速器的系统;H100等效指标比较的是各代之间的计算容量而不是物理单元数量。马斯克提议了一个拥有100万颗卫星的轨道数据中心网络,但英伟达首席执行官黄仁勋将该概念描述为抱负性而非运营项目,使地面设施成为xAI实际的近期路线。Broadcom在2024年表示三家超大规模客户目标是到2027年达到100万个GPU,但未披露它们的身份。xAI计划的1.44百万GPU阵列将使其位列最大AI基础设施运营商之列,前提是满足交付、电力和部署目标。