OpenAI推出与博通联合开发的Jalapeño定制AI推理加速器，用于千兆瓦级规模部署。

OpenAI 与半导体巨头 Broadcom 合作推出了其首款定制 AI 推理处理器。该芯片名为 Jalapeño，专门为处理 OpenAI 的推理工作负载而设计——推理工作负载是指根据实时用户请求运行预训练 AI 模型的过程——其开发得到了 OpenAI 自身 AI 模型的协助。

虽然仍在测试阶段，但早期结果表明其性能功耗比相比当前替代方案有显著提升。芯片发布时强调了其在运行实时编码模型时的效率，成本降低被确定为主要目标。

此举使 OpenAI 与谷歌和亚马逊并列，这两家公司都已开发了专有 AI 加速器以减少对英伟达 GPU 的依赖。总裁 Greg Brockman 之前曾阐述过公司的理由，描述了专注于识别现有硬件不能充分满足的特定工作负载，并构建能够加速这些工作负载所需计算的芯片。

OpenAI 将 Jalapeño 定位为更广泛战略的一部分，该战略旨在拥有完整的 AI 基础设施栈——涵盖芯片架构、内存系统、网络、调度和部署——以便每一层都能围绕单一目标进行优化：使其模型运行更快、更可靠且成本更低。

预期在可预见的未来，预训练等更多计算密集型任务将继续依赖英伟达硬件。