NVIDIA投入200亿美元研发超越当前GPU架构的下一代AI芯片技术。

圣诞节前夕，Nvidia宣布了一项200亿美元的交易，用以许可芯片创业公司Groq的技术并聘用其关键员工，其中包括现任CEO乔纳森·罗斯（Jonathan Ross），他曾协助谷歌创建张量处理单元（TPU），这已成为Nvidia AI处理器的主要替代品。这一重大竞争举措将在Nvidia在加州圣何塞举办的年度GPU技术大会（GTC）上获得广泛关注，大会在圣何塞麦克恩利会议中心举行，CEO詹森·黄（Jensen Huang）的主题演讲在附近的美国SAP中心进行。在Nvidia2月下旬的财报电话会议上，詹森表示，"我有一些很好的想法想在GTC与大家分享"，这预示着该公司计划分享其将Groq芯片技术纳入其AI计算生态系统的愿景。这次大会被称为"AI的超级碗"，还将包括Nvidia下一代韦拉·鲁宾（Vera Rubin）系列图形处理器（GPU）路线图的更新。

Nvidia预计将利用Groq的技术构建全新芯片，针对推理阶段——即AI模型的日常应用——这是一个不断增长且竞争日益激烈的市场细分。虽然Nvidia的GPU在AI计算的训练阶段占据主导地位，即模型为实际应用做准备的阶段，但随着AI应用的主流化和客户寻求成本效益解决方案，推理阶段的竞争变得更加激烈。尽管如此，Nvidia披露其2024年约40%的收入来自推理，首席财务官科莱特·克雷斯（Colette Kress）最近强调，行业刊物SemiAnalysis"宣布Nvidia推理之王"，指出其现有一代Grace Blackwell GPU相比前代Hopper提供了巨大的性能提升。在去年的GTC大会上，詹森告诉分析师，"全球绝大多数推理都在Nvidia上运行"。

然而，推理市场面临多个强大的竞争对手。GPU制造商排名第二的高级微器件公司（AMD）最近与Meta平台达成了一项主要的合作伙伴协议。谷歌自主研发的张量处理单元（TPU）与Broadcom共同设计，在训练和推理方面都是强劲的竞争者，而谷歌基于张量处理单元的Gemini聊天机器人提升了其作为Nvidia最大威胁的声誉。亚马逊也宣传了其自主研发的Trainium芯片在两个领域的能力，而Claude模型背后的AI创业公司Anthropic在秋季与Nvidia达成协议的同时，也在使用Trainium和TPU。此外，正在准备首次公开募股的AI创业公司Cerebras也获得了关注，Oracle联席CEO克莱·马古尼克（Clay Magouyrk）最近在其财报电话会议上提及了这家公司。

Nvidia显然看到了加强其推理产品的机会，这促使了其对Groq进行的200亿美元投资。与其完全收购Groq不同的是——这可能会引发反垄断审查——该交易被构建为非排他性许可协议，允许Groq继续运营其基于专有芯片的推理云服务。Groq创始人兼现任前CEO乔纳森·罗斯转入Nvidia担任首席软件架构师；罗斯在2016年创立Groq之前，是开发原始TPU的谷歌团队的一员。Groq开发了被其称为推理专用的LPU，即语言处理单元。罗斯在播客访谈中一直表示，Groq没有尝试与Nvidia竞争训练业务；相反，这家创业公司确定了推理计算为其可以创新并确立地位的领域。