Broadcom正在用定制交换芯片挑战英伟达在AI网络中的主导地位,争夺互联和Tomahawk级基础设施市场份额。
博通欧洲地区首席架构师声称,该公司在解决AI横向扩展网络瓶颈方面领先于英伟达等竞争对手,并将以太网列为其竞争优势所在。
在Xcelerated Compute展会上的演讲中,博通EMEA地区首席网络架构师卡姆兰·纳克维(Kamran Naqvi)将公司的Thor Ultra网络接口卡(NIC)吹捧为"世界首款800吉比特以太网NIC"。他承认英伟达的竞争产品ConnectX-8 SuperNIC的存在,指出它"在InfiniBand上仅支持800G。对于以太网,只能采用四个400G的组合"。
"我相信英伟达会赶上来。他们是一家了不起的公司。目前我们处于领先地位。为什么不好好炫耀一下呢?"纳克维说。
在AI基础设施市场中,博通与AMD和OpenAI一起成为以太网的坚定支持者。OpenAI架构师设计了多路径可靠连接(MRC)协议作为AI网络的基于以太网的传输标准,博通为其开发做出了贡献。纳克维将MRC和超级以太网传输(UET)规范定位为AI横向扩展网络的行业标准。他强调了博通作为创始成员的角色,引用公司的理念,即"创新源于行业在可互操作的开放标准上达成共识"。
MRC和UET都提供数据包多路径功能,能够通过数据包分散工作流实现AI工作负载间的高效负载均衡。
在产品层面,纳克维强调Tomahawk Ultra以太网交换芯片"非常适合"AI大规模部署环境,从零开始设计具有超低延迟。他指出Tomahawk 6芯片已被"许多客户"部署用于大规模扩展目的。他还提到了一家未透露名字的德国客户,目前正与博通合作伙伴进行概念验证,在四个集群中部署基础设施以支持28000个GPU,作为其横向扩展工作的一部分。
纳克维强调,光学技术将在未来的AI网络中发挥重要作用。虽然倡导光学解决方案,但他在实际情况下推荐使用铜,呼应了英伟达首席执行官黄仁勋关于铜将继续主导"数年"的预测。"它可靠。它便宜。它节能。"纳克维说。
博通已在共封装光学(CPO)技术上进行了大量投资。Meta的部署在2025年实现了100万小时的无故障运行,现已达到5000万小时的无故障运行。"因此它非常可靠。它可以节省65%到70%的电源消耗,"纳克维指出。这一进步解决了Meta的关键AI基础设施挑战:GPU在等待网络完成时的空闲时间。
纳克维用一个例子说明了这一点的重要性:"你投入数十亿美元构建基础设施,而网络只占AI基础设施构建成本的10%。但如果你的网络没有设计好,网络就会成为瓶颈,这会给你带来远高于此的成本。"