2026年CIOE中国光博会显示光模块与高速互联需求激增,Astera Labs相关组件单价已从数百美元飙升至数千美元。
在2026年中国国际光电博览会(CIOE)上,现场人潮涌动。社交媒体上,参会者甚至开出每场引导服务2,500元人民币的高价,只为聘请行业内部人士作为向导。步入展馆,这一趋势便显而易见:几乎所有与人工智能(AI)相关的板块都热度高涨。从光模块和组件到高速互连及数据中心基础设施,激增的AI需求正将传统上各自为政的光通信供应链推向前所未有的活跃水平。
Astera Labs也亮相了今年的博览会。这家成立于2017年的美国半导体公司最初凭借PCIe Retimer产品切入高速互连领域,随后将其产品线扩展至铜缆互连、光缆互连以及机架级连接解决方案。截至9月,其市值已接近500亿美元。
“计算需求越高,处理器之间的数据交换就必须越快,而这种互连‘神经系统’必须跟上步伐。”Astera Labs总裁兼首席运营官Sanjay Gajendra告诉雷锋网。
这种势头源于AI基础设施持续扩张所带来的日益严峻的互连压力。随着GPU数量从几个扩展到几十个、几百个甚至几千个,处理器之间数据传输的效率开始直接决定整个基础设施栈的性能。
为什么Astera早在大型语言模型广泛普及之前的2017年就押注互连技术?
“我们当时判断,当一台服务器容纳10个处理单元,或者如今容纳几十个处理单元时,为上一代处理器设计的连接架构将无法再支持系统需求。”Gajendra表示。
传统服务器的架构通常围绕一个或两个CPU构建,存储和网络主要被视为外围输入/输出(I/O)。然而,随着CPU、GPU、智能网卡(SmartNICs)及其他处理器在同一机箱内并发运行的情况日益普遍,需要内部交换的数据量急剧上升。
“这就像在一台机器里拥有许多‘大脑’;原本为少量处理器设计的互连架构已无法维持其数据交换能力。”Gajendra解释道。
到了2026年,随着AI的快速演进,这一挑战进一步加剧。Gajendra通过三个变量概括了当前互连架构面临的障碍:速度、规模和功耗。在Astera成立前后,PCIe单通道速率约为8 GT/s;如今,这一数字已达到64 GT/s。AI系统的规模同样从早期的四到八个GPU配置,扩展到部署数十个、数百个乃至更多GPU的系统。
“为了跟上当前的AI部署,数据传输速度每年都在翻倍。”Gajendra指出。除了规模的扩大,通信延迟必须最小化,同时保持内存一致性和处理器同步。随着系统足迹的扩大,互连本身的功耗已成为一项硬性约束。
这种扩张压力正在积极重塑铜缆与光缆的边界,打破了“铜缆主导短距离、光缆接管长距离”的传统假设。距离不再是选择两者的主要决定因素。相反,Gajendra指出,传输速率和GPU规模是决定机架级架构何时从铜缆过渡到光缆的两个核心变量。
对于每条通道200G的连接,铜缆互连仍然完全胜任。然而,超过每条通道400G后,光学解决方案将越来越多地渗透进机架内部。由更大GPU数量带来的连接密度上升和散热管理压力,将进一步影响客户在铜缆和光缆互连之间的决策。
使铜缆与光缆的计算更加复杂的是成本。每家供应商最终都必须算清这笔账:每种连接方法相关的总系统Token成本是多少?
在博览会上,一位Astera Labs工程师告诉雷锋网,在下一代AI系统中,铜缆和光缆不会简单地相互取代。由于成本更低且技术成熟,绝大多数短距离链路将继续青睐铜缆。然而,当系统扩展到跨越多个机架的数千个GPU时,决定性的指标转变为整个基础设施的单位Token成本。
该工程师补充道,以Nvidia的NVL72平台——具备72个GPU的扩域(scale-up)架构——为基准,不断增长的计算需求将推动企业转向更大规模的扩域。这减少了数据穿越通常通过网卡(NIC)、以太网或InfiniBand交换机路由的扩网(scale-out)网络的频率,从而引入额外的延迟和架构复杂性。通过利用光缆互连来扩大扩域边界,企业可以进一步优化其系统的单位Token成本。
在技术路线图方面,Gajendra预计近封装光学(NPO)将在2027年左右开始进入扩域部署。共封装光学(CPO)虽然已经看到有限的应用,但在2029年或2030年之后不太可能在扩域领域实现大规模部署。
透过这一视角来看,AI互连的核心问题不再仅仅是“如何更快地传输数据”,而是如何通过多样化的连接方法来组织日益增多的GPU,同时降低每个Token的成本。
资本支出趋于稳定,但价值捕获持续增长。
在过去两年中,AI基础设施最直接的增长驱动力一直是超大规模云提供商持续的资本支出增加。显然,此类支出无法无限期地保持相同的增长率。当被问及未来一到两年内领先云厂商可能放缓AI数据中心建设是否会影响像Astera Labs这样的互连供应商时,Gajendra并未排除这种可能性。
他承认,AI仍处于集中的基础设施建设阶段,仅美国超大规模云提供商就已公开承诺在数据中心投资超过1万亿美元。然而,随着大规模建设阶段的结束,资本支出在未来几年内必将趋于稳定。
投资者对这一支出轨迹能维持多久变得越来越敏感。根据公开披露的信息,微软、Alphabet、亚马逊、Meta和甲骨文预计2026年合计支出约为7,950亿美元,2027年将上升至近1.08万亿美元。市场密切关注这些数字,以寻找任何减速迹象。
对于Astera而言,战略回应不是被动等待云提供商建造更多设施,而是提高每个加速器的价值捕获。Gajendra提供了一个清晰的进展过程:在仅有Aries PCIe Retimer的早期,Astera每个加速器的产品价值不到100美元。在整合交换机芯片和内存产品后,这一数字攀升至数百美元。随着扩域交换技术的出现,每个加速器的价值现已达到数千美元。
扩域显然是Astera加倍投入的方向。Gajendra透露,公司原本预计其Scorpio系列将成为今年第四季度最大的收入来源产品线,但这一里程碑已提前至第三季度。
除了提高每个加速器的价值外,Gajendra还将推理市场视为另一个关键的增长向量。
虽然训练和推理都对互连的高带宽、低延迟和低功耗有需求,但它们的工作负载优先级却有所不同。训练严重依赖原始计算吞吐量,而推理则更强调内存访问模式和超低延迟。
与集中在大型数据中心的训练不同,Gajendra指出,推理领域的参与者将更加分散,系统架构也更加多样化。“特别是在推理领域,会有更多的客户进入。这是一个高度碎片化的市场,有许多参与者和许多系统配置。”他说。
未来的互连需求将不仅仅取决于少数顶级云厂商建设了多少大型训练集群。随着AI工作负载向大规模推理转移,连接需求将扩展到更广泛的系统规模和部署模式。
随着客户画像和部署形式的多样化,互连供应商不再面临单一的需求集合。不同的市场和客户群体在标准化、产品迭代速度和系统定制方面的期望正日益分化。
这些区别在中美AI基础设施市场中尤为明显。
随着推理市场的碎片化,互连供应商面临着越来越多样化的客户群。与北美相比,中国的AI基础设施生态系统呈现出截然不同的客户构成。
Gajendra指出,目前北美市场主要由四大超大规模云提供商——亚马逊、微软、谷歌和Meta——以及OpenAI和Anthropic等主要AI研究实验室主导。在中国,除了字节跳动和阿里巴巴等互联网巨头外,还有大量不同规模的初创公司积极参与AI基础设施建设。
“如果总结一种差异,中国市场的机会发展非常快。”Gajendra说。由于参与者更多、应用场景更广,中国客户要求供应商比北美同行做出更快的响应和更短的产品部署周期。
一位Astera工程师还强调,美国大型客户通常优先考虑标准化、供应链复用和跨代产品兼容性。相比之下,中国客户更愿意尝试替代技术方案,并更看重快速商业化。
尽管内部客户系统将变得日益定制化,但外部连接接口仍将保持标准化。“定制化会增加并持续下去,但每个人仍会努力采用开放标准。外部连接和接口将保持标准化,而内部处理器架构将根据不同的工作负载和性能指标进行定制。”Gajendra表示。
他以字节跳动和阿里巴巴为例:字节跳动的基础设施主要服务于其自身内部运营,而阿里巴巴必须同时支持内部应用和外部云服务。因此,它们的处理器和服务器设计必然存在差异。
随着AI系统在内部变得更加定制化,连接这些系统的接口需要更严格的标准化。对于互连供应商来说,任务不再是适应单一统一的服务器架构,而是适应不断扩展的处理器、工作负载和部署配置矩阵。
从铜缆与光缆的权衡、扩域扩展,到不同客户的定制化与标准化需求的分化,互连技术正从外围支持组件转变为AI基础设施设计的基础要素。
当连接方法同时决定GPU的可扩展性、系统延迟和Token经济时,其价值超越了单纯的数据传输。它们最终决定了原始计算能力能否有效转化为可用的系统性能。