亚马逊与高通达成600亿美元协议,以扩充其AI推理硬件组合。
亚马逊与高通将合作开发用于人工智能推理的定制芯片及高速光连接技术,随着电力和基础设施成本持续攀升,此举有望为AWS用户和数据中心运营商提供新的硬件选择。高通于9月8日公布了这一合作关系,在能源限制促使数据中心架构师转向更专业化基础设施的背景下,该合作为AI推理开辟了另一条硬件路径。两家公司均致力于研发专门针对这些局限性进行优化的处理器和连接技术。
此次合作涵盖多代定制AI推理芯片及光连接设计,面向大型数据中心的传输速度最高可达每秒1.6太比特。HyperFrame Research半导体与深度科技业务主管Stephen Sopko强调,专注于推理至关重要,因为其需求与AI训练存在显著差异。“电力是决定构建何种架构的关键约束因素,”Sopko在一份电子邮件中表示。虽然训练工作负载优先考虑峰值浮点性能和高带宽内存,但推理工作负载则更加重视每瓦特令牌数、每机架令牌数以及可用的电力余量。对于评估AWS推理服务的云买家而言,该协议扩大了可用的硬件选项。同样,正在考虑自建AI基础设施的数据中心运营商现在又多了一家处理器和连接供应商可供选择,尽管两家公司均未披露具体的产品路线图或生产时间表。
根据协议,商业承诺将持续至2036年9月。据高通向美国证券交易委员会(SEC)提交的 filings 显示,高通向Amazon.com NV Investment Holdings LLC发行了一份认股权证,允许其以每股161.26美元的价格收购最多2,500万股股票。该认股权证与商业安排、具有约束力的采购订单以及高通服务器芯片产品、技术、系统和制造服务的实际购买挂钩,在认股权证有效期内总支付金额可能高达600亿美元。认股权证发行时,基于初始采购承诺,有375万股立即归属。Moor Insights & Strategy数据中心技术副总裁兼首席分析师Matt Kimball指出,这种多代框架使此次合作与众不同。“这确实意义重大……因为合作伙伴关系涉及多代产品,”Kimball在电子邮件中表示。“超大规模企业通常不会为通用部件承诺多代产品。”他补充说,这种结构表明亚马逊正在围绕长期硬件架构进行规划,而非仅评估孤立组件。
尽管亚马逊通过其Trainium AI加速器和Graviton服务器CPU继续开发自己的数据中心芯片,但高通正为AI基础设施栈的不同细分领域供应定制芯片。该合作还包括多代高带宽网络连接的开发。“连接并非加速器故事的附属品;它是系统的一半,”Sopko表示。高通将利用其SerDes和光数字信号处理器技术,并通过收购Alphawave Semi获得的高速连接能力加以增强。Kimball警告称,AWS已经使用多家连接供应商,包括Marvell和Broadcom,因此不应将此次网络合作解读为供应商替换。相反,他强调高通在一个单一生态系统中结合定制计算和连接能力的战略意义。
除了硬件之外,高通还在拓展软件和AI基础设施领域,计划加深其对AWS服务(包括Amazon Bedrock)的依赖,以电子设计自动化工作负载加速芯片设计周期。高通目前的数据中心产品组合包括Dragonfly C1000服务器CPU、AI200、AI250和AI300推理加速器、高带宽计算技术以及800G和1.6T连接技术。今年6月,高通宣布与Meta达成另一项多代数据中心CPU协议,Meta计划在其下一代服务器舰队中部署C1000,预计将于2028年下半年投产。继7月收购Modular(增加了软件和AI基础设施能力)之后,高通更广泛的数据中心战略涵盖了AI加速器、服务器CPU、高带宽计算技术和定制芯片。该公司目标是在2029财年之前实现超过150亿美元的数据中心收入。