在Hot Chips 2026大会上,英伟达发布了Spectrum-X多平面以太网架构,旨在突破当前互连限制以扩展AI工厂网络。
在 Hot Chips 2026 大会上,英伟达(NVIDIA)展示了 Spectrum-X 以太网多平面网络架构,详细阐述了将 AI 工厂网络从数千个 GPU 扩展至五十万个 GPU 的计划。该环节反复提及 AI 工厂平台框架,强调这一架构反映了英伟达积极的建设布局。英伟达将 AI 工厂划分为五个专用网络:Scale-Across(跨域扩展)、Scale-In(规模内聚)、Scale-Out(横向扩展)、Scale-Up(纵向扩展)以及 AI Context Scale(AI 上下文扩展)。其中,Scale-In 在本次演示中得到了新强调,紧随博通(Broadcom)展示其 Thor Ultra 之后。核心论点指出,单一的通用互连无法有效服务于所有五个领域,这确立了整个架构的基础前提。
英伟达确认其共封装光学(CPO)解决方案已进入量产阶段,并概述了 Astra、Scale-In 和 BlueField-4 背后的战略理由。Scale-Up 网络通过 NVLink 运行,NVL72 机架将 NVLink 骨干网与交换机托盘配对,形成一个包含 72 个 GPU 的 Scale-Up 域,英伟达称其在每兆瓦令牌处理量方面处于领先地位。虽然企业、超大规模和服务提供商网络各自采用不同的骨干网设计,但英伟达认为 AI 工厂需要专用的以太网,而非复用通用拓扑结构。
Spectrum-X 是英伟达用于 Scale-Out 以太网的千兆级解决方案。该公司声称,在 102.4T 交换机系统和 1.6T SuperNIC 上,RDMA 带宽提高了 1.6 倍,多租户性能提升了 2.2 倍,带宽抖动降低了 1.3 倍。基于此前对 MRC RDMA 传输协议的分析,英伟达强调应通过端到端系统方法而非孤立设备来解决抖动问题。主要指标显示,在多租户 AI 工厂中,训练性能提高了 1.9 倍,这一数据源自 DeepSeek V3 的多任务训练运行。在嘈杂的共享环境中,现成以太网的步长时间超过了 Spectrum-X 的性能曲线,且随着超过 80 个步骤的进行,性能差距进一步扩大。英伟达将此归因于低抖动通信和租户噪声隔离。
极致的协同设计在 NCCL 性能中体现得最为明显。在 Nemotron Ultra 预训练期间,相对于现成以太网,梯度 All-Reduce 领先 14 倍,令牌分发达到 3.5 倍,而梯度 Reduce-Scatter 和平行矩阵乘法均达到 2 倍。与传统云架构不同,Scale-Out AI 严重依赖光学技术。英伟达估计,光学组件占 AI 工厂算力的 10%,远高于传统云数据中心。Spectrum-X 以太网光子学代表了这一策略的可量产实现。英伟达已将带有微环调制器的共封装光学芯片投入生产,并在台积电 Coupe 工艺上开发了 3D 堆叠硅光引擎。该公司声称,这些创新减少了四个激光器,降低了功耗,并将中断平均时间(MTBF)减少十倍。英伟达评论道:“100G SerDes 是去年的东西”,此言紧随博通在 Hot Chips 上展示 100G SerDes Thor Ultra 之后。
当今的超大规模云通常以机架顶部(ToR)交换机拓扑开始。英伟达将这种 2k 规模的基线视为旨在超越的传统布局,用于 AI 工厂。多轨(Multi-rail)是第一个进化步骤,展示了 8k Rubin GPU 以每个 GPU 1.6T 的 Scale-Out 带宽运行。该架构利用具有 64 个 1.6T 端口的 100T 交换机,将流量分布在四条轨道上,确保 NIC 的全部带宽直接连接到交换机端口。随后,英伟达引入了多平面(Multiplane)拓扑。与独占完整轨道的多轨不同,多平面将互连分离为共享交换机硬件的平面。这使得一个 NIC 可以同时连接到多个交换机。流量不再路由到单个交换机的 1.6Tbps,而是拆分为八个 200Gbps 链路,每个链路指向不同的交换机。
与多轨相比,多平面将 AI 工厂的扩展能力提高了 64 倍。英伟达预计支持 512k Rubin GPU,同时保持每个 GPU 1.6T 的 Scale-Out 带宽。该架构使用具有 512 个 200G 端口的 100T 交换机,分布在四条轨道上的八个平面中。多平面设计还减少了物理占用空间,所需的 Scale-Out 交换机数量比传统的多层单轨拓扑少 1.7 倍,从而降低了功耗、机架空间需求和总体成本。容错是多平面的主要优势。在部分带宽损失的情况下,Spectrum-X 多平面拓扑在 2.68ms 的检测时间内保持 90% 的带宽,而传统多层拓扑则降至 0% 带宽。英伟达将其转化为相对于现成以太网多平面实现的 1.6 倍有效吞吐量优势。Spectrum-X 在 2.68ms 内检测故障——速度约为快 400 倍——并在 100ms 内恢复,速度约为快 11 倍,维持 90% 的带宽。相比之下,现成拓扑经历完全带宽损失,需要 1080ms 进行检测和恢复。
Spectrum-XGS 将连接扩展到多个 AI 工厂。凭借 102.4Tb/s 交换机和 ConnectX-9 SuperNIC 上每个端口 800Gb/s 的速度,英伟达声称可将多站点延迟降低多达 1.9 倍,并使分布式 AI 操作的 Scale-Across 性能翻倍。NVLink Fusion 将第三方 XPU 集成到 NVIDIA AI 平台中,为每个 XPU 提供 3.6 TB/s 的全互联带宽,以连接单个域内的 72 个 XPU。这被容纳在一个无线缆 MGX 机架中,额定入口温度为 45°C,采用 100% 液冷,实现了 3 倍的更低延迟。
软件必须与硬件同步演进。DSX 作为英伟达的 AI 工厂平台,涵盖 DSX OS、DSX Sim、DSX MaxLPS 和 DSX Flex 中的电源优化、基础设施软件和平台软件。英伟达强调在建设之前进行大规模仿真和验证的必要性,随着网络拓扑的增长和布线要求的复杂化,这一点变得愈发关键。DSX Air 将部署时间从数月压缩至数天:基础设施上线从六个月缩短至一周,基础设施软件开发从三个月缩短至一周,全面部署从两周缩短至一天。
英伟达最后重申了 AI 工厂的五种网络基础设施:Scale-In、Scale-Up、Scale-Out、Scale-Across 和 Context Scale。每种基础设施都配备专用硅片,性能倍数在带宽、包速率、延迟和抖动方面从 18 倍不等。提出的每一个网络维度都是专为平台协同设计的,而非借用自通用互连,这是本次演示的核心论点。英伟达认为,以太网可以支持 AI 工厂的 Scale-Out,但前提是硬件专门为 AI 工作负载进行了工程化设计。多平面拓扑是重中之重,它将可寻址规模从 8k 扩展到 512k GPU,同时声称减少了交换机数量并提供了卓越的故障弹性。这些指标在实际生产部署中是否属实将是最终的考验,即将到来的 Hot Chips 会议有望阐明 Vera Rubin 软件与光学生态系统如何整合。