NVIDIA推出NVLink Fusion,将定制XPU与成熟NVIDIA基础设施相结合加速AI工厂的平台
AI工厂经济学由交付的输出驱动：每秒令牌数、每瓦特令牌数、每令牌成本、利用率和正常运行时间。这要求将AI基础设施设计为一个完整的工厂系统，而不是孤立的加速器。构建定制XPU的超大规模云计算公司和AI原生公司必须架构的不仅仅是处理器本身，还包括整个平台，包括横向扩展和纵向扩展网络、机架架构、工厂软件和供应商关系。在生产规模下，这条路径复杂、昂贵且减缓了上市时间。
NVLink Fusion通过将定制XPU与NVIDIA成熟的基础设施配对来打破这一限制，让制造商能够专注于处理器的创新，同时在其他地方利用成熟技术。
对于万亿参数模型和混合专家工作负载，纵向扩展结构性能至关重要。现代纵向扩展解决方案必须在三个方面取得成效：具有网络内计算和成熟软件集成的端到端网络性能；通过正常运行时间、健康监控和运行期间可服务性实现工厂弹性；以及降低运营风险的平台成熟度。
第六代NVLink在72-XPU集群中将XPU纳入NVIDIA的纵向扩展域，与现成Ethernet解决方案相比端到端延迟低3倍，包交换速率高10倍。GB300 NVL72系统提供了明显更高的吞吐量和交互性。NVLink路线图包括多达1,152个加速器的域。NVLink-C2C将XPU连接到NVIDIA Vera CPU或生态系统CPU，能效比PCIe高6倍。
开发定制XPU通常涉及被低估的复杂性：集成高速CPU和纵向扩展接口、采购网络解决方案、设计计算和交换机托盘、架构机架（包括冷却和电源）、集成安全和存储以及管理复杂的供应商生态系统。NVLink Fusion通过跨越ASIC设计、CPU和光互连合作伙伴的生态系统提供了所有这些组件。正如Intel数据中心硅工程副总裁兼总经理Tim Wilson所指出的那样，NVLink Fusion让客户能够为其特定工作负载选择CPU架构、性能级别和软件功能。
NVLink Fusion采用者可以使用NVIDIA为NVIDIA Vera Rubin NVL72等系统建立的MGX机架规模架构和供应链。QCT和Quanta Computer产品和解决方案负责人Jack Luoh表示，Vera Rubin NVL72在制造中实现了近100%的系统构建自动化，这些投资适用于使用NVLink Fusion的XPU部署。
NVIDIA AI基础设施平台在垂直集成的同时保持水平开放。采用者可以集成NVIDIA Rubin GPU、Vera CPU、共封装光学交换机、ConnectX SuperNIC、BlueField DPU、Mission Control软件和完整的机架解决方案，包括Vera Rubin NVL72、Vera CPU Rack、LPX、STX和SPX系统。
AI工厂规划始于最终加速器到达前很久，电源采购、设施设计、冷却、机架布局和网络都需要提前承诺。锁定单一芯片的设施面临进度风险。不同的工作负载青睐不同的加速器：XPU、GPU、CPU和LPU，可能被组合用于训练、后训练、推理、检索和服务。MediaTek数据中心和计算业务集团公司高级副总裁兼总经理Vince Hu强调，NVLink Fusion让客户可以部署带有NVIDIA GPU的机架解决方案，同时按自己的步调开发XPU。
NVLink Fusion使用统一的架构，其中XPU和GPU系统共享机架占地面积、网络、冷却、电源和管理系统。运营商在推进构建的同时延后确切的硅混合，然后随着工作负载需求、硅供应和业务优先级的变化而重新配置容量。GUC董事长兼首席战略官Lie-Szu Juang指出，NVLink Fusion让超大规模云计算公司和定制ASIC设计者能够集成自己的定制CPU或XPU，同时将NVIDIA技术与第三方流程整合到统一的机架规模架构中。
工厂构建成本高昂，错误需要昂贵的返工。基础设施必须在施工前验证。NVLink Fusion与NVIDIA DSX AI工厂参考架构一致，共同设计建筑、电源、冷却、计算和网络。NVIDIA Omniverse DSX AI Factory Blueprint为千兆瓦规模的AI工厂提供了数字孪生和开放参考设计，使合作伙伴能够在部署前一起对设施和技术进行建模。
在机架级别，可服务性驱动性能。参考计算托盘具有100%液体冷却，没有风扇、电缆或软管，可以在机架其余部分运行时移除。NVLink Switch托盘也采用液体冷却，支持服务期间的持续运行。亚马逊Annapurna Labs高级硬件开发经理CC Lee表示，NVLink Fusion提供了对经过验证的NVL72机架设计的访问权限，以加快上市时间并为客户交付提供多个供应商选项。
软件完成工厂。NVIDIA NCCL处理分布式工作负载，Dynamo和NIXL管理分解，Mission Control为混合AI基础设施提供集群管理、遥测和调试。借助NVLink Fusion，XPU可以与世界级的AI平台集成，使超大规模云计算公司和AI原生公司能够构建统一的半定制AI工厂。