OpenAI发布与Broadcom共同设计的定制AI推理芯片Jalapeño用于优化数据流动，标志着其进入定制硅芯片领域，继LLM加速器集成之后推出。

OpenAI推出了其首款定制芯片,这是与博通(Broadcom)合作开发的成果。这款被称为"Jalapeño"的半导体标志着该公司减少对外部芯片供应商依赖的初步举措。博通首席执行官Hock Tan和总裁Charlie Kawwas本周向OpenAI的Sam Altman和Greg Brockman展示了这款加速器。

该芯片代表了推理硬件的一种"白板设计",专门针对AI工作负载优化。其架构经过精心设计,可最小化数据移动,同时平衡计算、内存和网络资源——这些是AI基础设施中的关键约束条件。该项目从初始设计到制造流片仅用了九个月,这对于定制硅芯片开发来说是一条加快的时间轴。

"Jalapeño是我们长期全栈基础设施战略的一部分,目标是让计算资源更加丰富,从而实现速度更快、更加可靠、对个人和企业来说更经济的AI,并能够用于解决更重要的问题。"Sam Altman在声明中表示。"通过自己设计更多的技术栈,我们可以更高效地提供更强大的智能能力,并继续推动先进AI朝着更广泛的应用发展。"

这一合作关系在十月份宣布,反映了OpenAI更广泛的抱负,即拥有更多自身的计算基础设施,而不是完全依赖商业解决方案。该芯片设计通过优化系统中的数据流动来解决AI推理中的根本性挑战——即训练好的模型大规模部署的阶段——以降低延迟和功耗。