Anthropic与Samsung合作共同设计定制AI推理ASIC芯片,以推理优化降低计算成本和对Nvidia GPU的依赖。
Anthropic宣布正在建立内部芯片开发团队,与合作伙伴共同设计用于处理AI推理工作负载的定制ASIC处理器。据Anthropic向《商业内幕》所述,公司正在招聘工程师与一个未指明的合作伙伴一起设计芯片,并且进展迅速,招聘信息表明潜在员工需要按照严格的时间表工作才能完成芯片设计。
这是最新一家宣布开发定制硬件的主要AI公司。随着全球经济压力对芯片供应的挤压,以及模型日益需要优化以提高效率和盈利能力,为专有数据中心设计定制硅芯片已成为战略上的重要举措。Anthropic现在与Google、Meta、Microsoft、Amazon和OpenAI一起开发自己的推理芯片。
训练先进的AI模型需要Nvidia GPU——即使获取权限有限的中国开发者仍在使用它们,通过走私或其他方式。然而,运行代理型和生成式AI模型的推理工作负载允许更广泛的硬件选择。虽然Nvidia GPU很有效,但价格昂贵——定制硅芯片可以实现高达65%的总拥有成本降低——而且耗能。更高效的替代方案存在:中国实验室使用国产硬件,许多西方开发者已建立或正在建立自己的解决方案。
Google已开发张量处理单元(TPU)芯片12年,在每一代上与Broadcom合作。Amazon生产Trainium和Inferentia芯片。Meta最近宣布了新的MTIA设计,将部署至2027年。Microsoft开发了其Maia系列。Tesla在多年开发Dojo后转向AI5和AI6设计。
Anthropic向《商业内幕》表示,其正在共同设计芯片,使Claude能够以客户所需的规模更快、更高效地运行。该公司在过去一年经历了爆炸性增长,在消费市场大幅扩展,并获得了重大政府合同。代理型AI也需要远比传统单次提示交互更多的token,推动了对更好推理基础设施的需求。
Anthropic尚未披露其设计和开发合作伙伴。虽然Broadcom和Marvell以大约95%的合计市场份额主导ASIC共同设计市场,但《The Information》报道称Anthropic正在与三星就制造进行谈判。
为AI推理设计、封装和制造定制ASIC既不便宜也不简单。除了开发硬件外,公司还必须构建支持软件堆栈并优化模型以利用硬件的优势。这种复杂性阻止了大多数公司追求定制硅芯片,但对于拥有充足资本和扩展能力的主要AI公司,该投资会产生显著回报。
虽然AI开发者受益,但更广泛的格局显示出明确的赢家和输家。Nvidia是从AI热潮中获利颇丰的少数公司之一,而Meta、Google、Microsoft和OpenAI在AI计划上损失巨大。定制ASIC共同设计市场产生重大利润:TSMC、Broadcom和Marvell是明确的赢家。
Broadcom多年来一直是Google的共同设计合作伙伴,最近被选中建立OpenAI的推理芯片。它也与Meta合作MTIA,并与ByteDance和Fujitsu签有定制ASIC合同。其强大的互联和网络硬件为客户提供完整的解决方案。Broadcom报告730亿美元的订单积压,预计到2027年底将产生超过1000亿美元的年度AI芯片收入。
Marvell与Amazon就Trainium芯片和Microsoft就Maia芯片持有重要合同,预计2026年从这些共同设计参与中产生超过110亿美元的收入。
如果三星成为Anthropic的合作伙伴,它将是这个领域相对较小的参与者,但会带来大量的制造和芯片设计专业知识,以及对全球供应短缺的关键存储芯片的获取。
最大的赢家似乎是TSMC。这家台湾公司生产世界上大部分最尖端的硅芯片,并参与几乎所有这里讨论的芯片。带有HBM集成的先进封装需要TSMC的CoWoS技术。TSMC还为Nvidia和AMD GPU处理大量封装,并生产许多基础晶圆。
Anthropic进入定制ASIC竞争并不令人惊讶,强化了一个新兴轨迹:主要的超大规模AI公司将日益使用定制硬件处理推理。这种方法更高效,允许更好地控制功能和规格,当为内部模型优化时可以更容易地扩展。对于中国公司,它也规避了国际贸易封锁和关税。
虽然公司可能永远不会完全依赖专有芯片——AI需求太庞大,Nvidia在供应链控制上太占主导地位——但每安装一个新的定制芯片就少需要一个用于推理的Nvidia GPU。这可能逐步减少Nvidia对市场的垄断。然而,模型训练可能在可预见的未来仍将是Nvidia最强的地位。