Groq融资6.5亿美元用于扩展其AI推理云业务，加快其定制LPU架构的部署。

Groq融资6.5亿美元用于扩展其AI推理云业务，加快其自定义LPU架构的部署。在AI基础设施市场围绕推理工作负载竞争加剧之际，这笔融资随之而至，特别是在英伟达最近的200亿美元交易信号之后。

这笔资金将支持Groq扩展基于其专有语言处理单元技术的推理服务。LPU的设计目的是优化在生产环境中运行已训练AI模型的特定计算模式，随着企业大规模部署生成式AI应用，这是一个日益关键的领域。

在AI建设方面，Groq在推理领域的推进代表了对英伟达在AI芯片中主导地位的替代架构方法。成功的扩展可以为推理工作负载提供多样化的基础设施选项——这是AI堆栈中低延迟、成本敏感的部分，在模型训练之后运行。这很重要，因为一旦训练变得商品化，推理将构成长期AI计算支出的大部分，使得这一层的效率提升具有经济意义。