OpenAI 与 Broadcom 联合推出首款自研 AI 推理芯片 Jalapeño，提供更快的 LLM 推理和优化的功耗效率。

OpenAI推出了Jalapeño，这是其首款定制AI推理芯片，由OpenAI与Broadcom合作开发。此举标志着OpenAI进入竞争激烈的推理芯片市场，与Groq和Cerebras等已成熟的市场参与者并驾齐驱。

该芯片专门为大语言模型（LLM）推理运算而设计，重点关注速度和能源效率。通过专注于推理而非训练，OpenAI瞄准已部署AI系统中最高容量的工作负载——在这种情况下，延迟和运营成本直接影响服务利润。

与Broadcom的合作使OpenAI能够获得制造和设计规模，有可能降低其整个产品线的推理成本。定制推理硬件通常能够实现更严格的延迟预算和更好的每令牌功耗经济性，这些因素随着AI部署规模的扩大而加剧推理芯片供应链中的竞争。