英伟达确认Groq 3 LPX已投入量产，部署机柜预计今年内上线。

英伟达（Nvidia）已将其Groq 3 LPX机架投入全面生产，随着对更快AI代理需求的持续增长，此举扩大了其在低延迟人工智能推理领域的战略推进，与其现有的GPU和CPU产品形成互补。

周一宣布的Groq 3 LPX商业化标志着源自英伟达史上最大收购案的技术首次亮相市场。这些机架将与新云服务商Nebius部署的Vera中央处理器和Rubin图形处理器配合使用，预计首批部署将于今年晚些时候进行。

英伟达决定制造并分销Groq芯片，凸显了业界对低延迟推理日益重视。这种能力对于确保AI代理保持高度响应且无明显延迟至关重要，特别是在代码生成应用中。云服务提供商还可以对这些高速推理工作负载收取更高的费用。

去年12月，英伟达以200亿美元的价格从芯片初创公司Groq手中收购资产，成为该公司历史上规模最大的收购之一。Groq的架构包括芯片上直接集成的500兆字节高速SRAM，旨在减少与内存相关的瓶颈。Groq芯片由三星制造，而台湾积体电路制造公司（TSMC）则负责制造英伟达的GPU。

每个LPX机架集成了256颗Groq 3芯片。根据Artificial Analysis的一项基准测试数据，英伟达声称一个Groq 3 LPX机架每秒可提供高达3,400个token的处理速度。

这一发展使英伟达直接与瞄准低延迟AI推理的其他公司展开竞争。今年早些时候，AMD宣布将把其机架级系统与来自Cerebras的芯片集成。与此同时，OpenAI最近推出了由Cerebras驱动的Ultrafast模式，承诺速度可达每秒750个token。

像Groq这样的低延迟芯片并非旨在取代GPU，后者仍然是包括训练和推理在内的AI工作负载的主要主力。相反，Groq芯片主要专注于服务AI模型的“解码”阶段。

与此同时，英伟达正在加快其Vera Rubin系统的出货，该系统已于今年早些时候进入生产阶段。在3月发布的Vera Rubin平台和Groq 3 LPX发布会上，英伟达首席执行官黄仁勋预测，到2027年，Blackwell和Vera Rubin系统的累计销售额将达到1万亿美元。