分析指出，Nvidia NVSwitch最终将作为规模扩展型AI网络的主要互连架构，在功能上取代传统的InfiniBand架构。

在计算机发展的早期，两种竞争的I/O架构在个人电脑和服务器领域争夺主导地位。随着互联网泡沫的加速膨胀，行业参与者达成共识，确立了InfiniBand交换式网络作为计算的标准I/O互连技术。

然而，随后的互联网泡沫破裂导致供应商放弃了这一标准，转而采用以太网用于点对点互连（例如连接个人电脑、服务器与互联网或内部网络）以及如今被称为“横向扩展”（scale-out）的网络聚合，以跨多台机器整合计算能力。在经济紧缩的背景下，行业还标准化了升级版的PCI-X总线以及后来的PCI Express总线，用于外设连接。

Voltaire和Mellanox Technologies使InfiniBand作为一种高性能、低延迟的互连技术得以生存。Mellanox提供交换机ASIC和网络接口卡（NIC），而Voltaire则开发针对高性能计算（HPC）建模和模拟工作负载定制的交换机。2010年11月，Mellanox以2.18亿美元收购Voltaire，以巩固其在InfiniBand交换领域的领导地位。由前Unisys工程师创立的InfiniCon Systems进入市场，并最终演变为QLogic——成为InfiniBand领域Mellanox的主要竞争对手——随后英特尔于2012年1月以1.25亿美元收购了该公司。该QLogic工程团队后来从英特尔剥离，于2020年9月成立了Cornelis Networks。另一家InfiniBand交换机供应商TopSpin于2005年被思科系统公司收购。与此同时，Sun Microsystems在联合创始人Andy Bechtosheim的指导下，将InfiniBand采纳为其“Constellation”HPC集群的集群技术，并开发了专有的InfiniBand ASIC和NIC。甲骨文公司在2009年4月以56亿美元收购Sun Microsystems后延续了这一策略。首席执行官Larry Ellison进一步通过收购InfiniBand交换机制造商Xsigo Systems来加强甲骨文的地位，但最终转向以太网，将其作为统一的纵向扩展、横向扩展和跨域扩展网络平台。

成立于2023年7月的超以太网联盟（Ultra Ethernet Consortium）旨在结合InfiniBand的低延迟和高带宽，以及其服务质量（QoS）和自适应路由能力，与以太网的卓越可扩展性、多租户支持和QoS功能相结合。目标是创建一个在性能上决定性优于InfiniBand的横向扩展网络，支持目标为一百万个端点的AI集群。以太网也正通过NVSwitch互连渗透Nvidia的纵向扩展领域，NVSwitch将GPU内存链接成一个单一的相干共享内存空间，服务于72个加速器。该架构可以扩展以支持576台设备，尽管会增加额外的延迟跳数。

需要说明的是，我重视InfiniBand和NVSwitch两者。InfiniBand在二十五年中一直是无可争议的低延迟领导者，并且至今仍保持竞争优势。这解释了为何我估计Nvidia在截至7月的过去十二个财政月中产生了257.4亿美元的营收——这一数字与我归因于以太网和NVSwitch互连联合销售额的256.7亿美元几乎相同。尽管如此，这可能代表了大规模集群中InfiniBand采用的峰值。超大规模云服务商、云提供商和AI模型开发者正日益标准化即将到来的超以太网技术。同时，包括Broadcom、Cisco Systems和Nvidia本身在内的以太网ASIC供应商正在积极减少以太网架构中的端口跳数和端到端延迟。

十多年前，我曾认为以太网会移动得太快从而取代InfiniBand。我预计InfiniBand在可预见的未来仍将具有生命力，主要通过Nvidia实现，后者目前是除中国某些定制HPC互连外唯一的 major 供应商。这些中国解决方案基于InfiniBand——由 formerly 独立的Mellanox授权并认可——但可能已被修改到不再带有InfiniBand名称的程度。尽管如此，以太网可能会利用其扩展优势以及在校园网、边缘和数据中心网络中的广泛兼容性，将InfiniBand relegated 到一个专门的利基市场。展望未来，Nvidia自身的销售将由用于纵向扩展的NVSwitch和用于横向扩展的Spectrum-X以太网主导。这种转变是由客户需求驱动的，而非供应商推广。企业和AI模型构建者都偏好以太网——即使是此前在早期AI集群部署中推崇InfiniBand的Meta Platforms也是如此。

长期的网络格言指出，以太网总是获胜，而且确实如此。它的成功源于采用来自竞争网络的成熟创新，并将其调整为广泛的企業部署以及专门的高性能计算和AI工作负载。这种动态同样适用于聚集系统和连接用户的横向扩展网络，也适用于互联AI集群内GPU和XPU的纵向扩展网络。快速以太网已 emerging 为替代内存共享架构的传输层。

这包括UALink，它由AMD、Broadcom、Cisco Systems、Google、Hewlett Packard Enterprise、Intel、Meta Platforms和Microsoft于2024年5月成立时挑战了NVLink和NVSwitch。值得注意的是，AMD使用Broadcom Tomahawk 6 Ultra以太网交换机在其“Helios”机架中实施UALink协议以实现纵向扩展网络。UALink是一种用于链接XPU和GPU的内存相干协议，但它同样可以促进CPU和DPU之间的内存共享。同样，由Meta Platforms和Microsoft倡导的ESUN协议已获得AMD、Arista Networks、Arm、Cisco、Hewlett Packard Enterprise、Marvell、Nvidia、OpenAI和Oracle的支持。Broadcom参与了ESUN/SUE-T倡议（其中SUE-T管理以太网纵向扩展堆栈内的负载均衡和更高级功能），但已退出UALink，迄今为止对NVLink/NVSwitch生态系统没有表现出兴趣。然而，如果Broadcom半导体设计服务部门中的CPU和XPU客户选择采用NVSwitch作为其机架级架构，并部署包含GPU和XPU的Nvidia风格服务器机架，这种立场可能会改变。

预测最终结果仍然很困难。最近，Nvidia购买了台湾系统级芯片（SoC）制造商联发科发行的35亿美元可转换债券。Nvidia联合创始人兼首席执行官Jensen Huang在彭博社上将联发科描述为“世界上最大最好的SoC制造商”——AMD和Intel对此提出异议是合理的。根据协议，联发科获得了访问NVLink Fusion堆栈的权限，使第三方芯片设计师能够集成NVLink端口并参与NVSwitch内存架构。重要的是，Nvidia不单独出售NVSwitch ASIC或机箱。部署需要Grace或Vera CPU，或者Blackwell或Rubin GPU，并预设采购配备NVSwitch作为纵向扩展互连的Nvidia机架。

最终，Nvidia可能会欢迎向在CPU、GPU和XPU上部署NVLink端点的客户销售NVSwitch网络。这种转变无疑需要相应的软件支持。然而，截至目前，Nvidia的官方立场禁止这样做。

从长远来看，几项发展将塑造AI系统中的纵向扩展网络。目前，Nvidia占据了约95%的GPU收入和约75%的GPU/XPU总收入，使其通过NVLink和NVSwitch在纵向扩展网络中占据主导地位。预计到2027日历年年底，这一市场地位仅会有轻微下降。

尽管如此，超大规模云服务商、云提供商、AI开发者和大型企业强烈偏好开放且广泛采用的标准，以确保硬件互操作性。NVLink Fusion似乎旨在扰乱UALink和ESUN/SUE-T的开发周期，可能会推迟行业整合一到两代。

科技巨头拥有资本为其自有硬件建立专有标准，但历史先例表明它们最终将汇聚于通用协议。这类似于2014年向100 Gbps及更快以太网的25 Gbps信号传输的转变，当时Google、Microsoft和Arista Networks对IEEE不愿放弃跨越十个通道的10 Gbps信号传输感到不耐烦。面对巨大的行业压力，IEEE将控制权让给了联盟。

UALink可以在端口对端口的基础上直接与NVLink和NVSwitch竞争，并且在理论上可以扩展近两倍的距离。2025年4月发布的UALink 1.0规范支持单个交换层级内多达1,024个XPU或GPU。相比之下，要在576个GPU之间实现内存共享，需要两级NVSwitch架构。

有一种可能性——有些人甚至说是概率——开放的、基于以太网的纵向扩展架构最终将占据上风，从根本上重塑AI互连的竞争格局。