NVIDIA推出NVLink Fusion使公司集成自定义AI加速器XPU
NVIDIA的公告解决了AI工厂经济的一个根本挑战：要在大规模交付每秒令牌数、每瓦令牌数和单位成本，不仅需要定制处理器，还需要涵盖网络、机架架构、生产软件和供应商生态系统的完整AI平台。构建这个完整堆栈复杂且成本高昂，延迟了市场进入。NVLink Fusion将定制XPU与久经验证的NVIDIA基础设施相结合，允许开发者在处理器上进行创新，同时利用成熟技术支撑该平台。
横向扩展网络解决方案必须在三个维度上表现出众：通过端到端网络能力和成熟软件集成交付性能；通过正常运行时间、持续健康监控和运行期间的可维护性实现工厂可靠性；以及通过经证实的大规模部署降低运营风险的平台成熟度。NVLink Fusion将XPU引入NVIDIA的NVLink横向扩展域，第六代NVLink在72-XPU域中提供高带宽、低延迟网络。XPU到XPU传输的端到端延迟比替代以太网解决方案低3倍，数据包速率高10倍。NVIDIA GB300 NVL72系统的吞吐量相比没有NVL72的配置显著更高，未来路线图配置包括最多1,152个加速器的域和共封装光学。NVLink Fusion还包括NVLink-C2C，用于连接XPU与NVIDIA Vera CPU或生态系统CPU，能源效率相比PCIe接口可提升最多6倍。
开发定制XPU的团队通常低估了将创新转化为数据中心部署的复杂性，这需要集成高速接口、验证横向扩展网络解决方案、设计计算和交换托盘、机架架构包括冷却和电源、安全和存储集成，以及管理复杂的供应商生态系统。NVLink Fusion得到一个涵盖ASIC设计、CPU以及IP和光互连合作伙伴的生态系统支持。Intel数据中心硅工程副总裁兼总经理Tim Wilson指出，NVLink Fusion让客户能够为其工作负载选择CPU架构、性能级别和软件功能。采用者可以使用NVIDIA MGX机架级架构以及用于基于MGX的系统（如NVIDIA Vera Rubin NVL72）的供应链，制造合作伙伴管理设计和集成，同时MGX供应商为机架、冷却、电源和新兴的800 VDC设计提供构建块。Quanta Computer和QCT产品和解决方案负责人Jack Luoh表示，Vera Rubin NVL72在制造线上实现了几乎100%的系统构建自动化，如果XPU使用NVLink Fusion，这些投资可以被杠杆化。
NVIDIA的AI基础设施平台既垂直集成又水平开放。NVLink Fusion采用者可以选择性地集成NVIDIA Rubin GPU、Vera CPU、共封装光学交换机、ConnectX SuperNIC、BlueField DPU、Mission Control软件以及包括NVIDIA Vera Rubin NVL72、Vera CPU Rack、LPX、STX和SPX的全机架解决方案。AI工厂规划在芯片最终确定前就开始，涉及电力采购、设施设计、冷却、机架布局和网络架构的早期决策。数据中心被锁定到一种芯片类型会成为计划风险，不同工作负载可能需要不同的加速器，包括XPU、GPU、CPU和LPU。MediaTek数据中心和计算业务集团企业高级副总裁兼总经理Vince Hu强调，NVLink Fusion让客户能够与NVIDIA GPU一起部署机架级解决方案，同时以不同步伐解耦XPU开发。NVLink Fusion通过统一架构解决这些挑战：基于XPU和GPU的系统（如Vera Rubin NVL72）可以共享机架占地面积、网络、冷却、电源交付和管理系统，使运营商可以继续进行构建，同时推迟精确的硅组合确定，并根据工作负载需求、硅供应和业务优先级变化重新配置容量。GUC主席兼首席战略官Lie-Szu Juang解释说，NVLink Fusion允许超大规模计算商和定制ASIC设计者集成自己的定制CPU或XPU，同时将NVIDIA技术与第三方流程相连接，创建统一的机架级架构。
基础设施必须在施工前经过验证，NVLink Fusion符合NVIDIA的DSX参考架构用于AI工厂：共同设计建筑、电源、冷却、计算和网络。NVIDIA Omniverse DSX AI工厂蓝图为吉瓦级AI工厂提供数字孪生和开放参考设计，使合作伙伴在部署前一起建模设施和技术。在机架级，可维护性是性能的一部分。参考计算托盘采用100%液冷，无风扇、电缆或软管，允许在机架其余部分保持运行的情况下移除托盘。NVLink交换托盘也采用液冷，支持服务期间继续运行。Amazon旗下Annapurna Labs高级硬件开发经理CC Lee表示，NVLink Fusion使得能够使用经证实的NVL72机架设计以加快上市时间，同时提供访问多个供应商以向客户交付更多的途径。
软件完成了工厂生态系统。NVIDIA NCCL用于分布式工作负载，NVIDIA Dynamo和NIXL用于分解，NVIDIA Mission Control用于集群管理、遥测和调试，帮助运营商将混合AI基础设施作为协调系统运行。通过NVLink Fusion，XPU可以与世界一流的AI平台集成，使超大规模计算商和AI原生公司能够构建统一的、半定制的AI工厂。