OpenAI自研的Jalapeño推理芯片性能基准测试已超越竞争对手的加速器设计。
OpenAI 公布了其首款定制 AI 推理芯片 Jalapeño 的基准测试结果,展示了在效率和速度方面的行业领先优势。根据公司数据,与 NVIDIA GB300 级系统相比,Jalapeño 每千瓦吞吐量提高了 1.5 至 1.9 倍,延迟降低了多达 3.6 倍。这些改进标志着 AI 推理能力的重大进步,特别是对于 GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 1T 等大型语言模型而言。
Jalapeño 于 2026 年 6 月 24 日在与 Broadcom 合作中首次宣布,代表了 OpenAI 战略性地进入定制硅片开发领域。与通用 GPU 不同,该芯片专为运行预训练 AI 模型而设计,包括为 ChatGPT 提供支持的模型。Jalapeño 专门针对推理工作负载进行了优化,最大限度地减少了功耗并缩短了响应时间。虽然 NVIDIA 的可编程 GPU 及其广泛的生态系统继续在更广泛的 AI 硬件市场中占据主导地位,但 Jalapeño 的专用架构为 OpenAI 的内部运营提供了独特的竞争优势。
8 月 25 日发布的基准测试突显了 Jalapeño 以前所未有的效率处理交互式 AI 任务的能力。在最大的测试模型 Kimi K2.5 上,与竞争系统相比,该芯片实现了每瓦峰值性能提高 1.5 倍,端到端延迟降低了 3.4 倍。这些指标突出了其在管理高需求应用(如实时聊天机器人交互)方面的能力,同时显著降低了能源支出——随着全球 AI 采用的加速,这是一个关键的考量因素。
OpenAI 的工程团队将人工智能本身归功于加速 Jalapeño 的开发周期。通过利用内部 AI 工具,团队从初始设计到流片仅用了九个月的时间。AI 还在优化芯片电路和编程方面发挥了直接作用,从而实现了更快的部署和增强的性能。值得注意的是,特定模型块的 AI 生成实现比人工编写的代码性能高出 1.5 至 1.8 倍,进一步简化了开发流程。
尽管 Jalapeño 不会对外销售,但其整合到 OpenAI 的基础设施中预计将带来显著的运营效益。更快、更节能的推理降低了计算成本并扩大了服务能力,直接改善了公司的经营杠杆效应。随着第二代(Gen 2)和第三代(Gen 3)芯片已经在开发中,OpenAI 正在加倍投入定制硅片作为长期的战略护城河。
在更广泛的半导体格局中,Jalapeño 的性能使 OpenAI 成为 Google Tensor Processing Units (TPUs) 的有力竞争对手,尽管它们的使用场景有所不同。Google TPUs 支持训练和推理,并通过 Google Cloud 商业化提供,而 Jalapeño 严格限于内部推理加速器。同样,虽然 NVIDIA GPU 因其多功能性和生态系统兼容性而保持行业标准地位,但 Jalapeño 的狭窄专业化针对特定工作负载提供了卓越的效率。
OpenAI 计划在今年年底前在其计算基础设施中大规模部署 Jalapeño。随着公司不断完善该平台并扩展其功能,Jalapeño 标志着满足全球对 AI 驱动应用的激增需求的同时,严格控制成本和环境影响的关键一步。