2026年9月11日星期五
AI 基础设施 · 新闻与分析
首页头条报道
头条 · 报道

OpenAI在Hot Chips 2026上推出了700W的Jalapeño ASIC,声称其每千瓦吞吐量比1,400W的英伟达GB300高出1.9倍,延迟降低3.6倍,并由Broadcom联合开发。

这一能效飞跃证明定制推理硅片可大幅降低AI机柜的功率密度需求,从而缓解超大规模企业在部署时的散热与电网压力。
行业媒体Slicast · 2026年8月26日 · 全球 · 来源: Tom's Hardware
重要度 92

英伟达(Nvidia)同意为其数据中心提供高达1050亿美元的融资担保仅仅一周后,OpenAI于周二在Hot Chips大会上亮相,宣称其首款自研芯片的基准测试性能优于英伟达最新的机架系统。该芯片由OpenAI与博通(Broadcom)联合开发,名为Jalapeño推理专用集成电路(ASIC)。与英伟达的GB200和GB300配置相比,Jalapeño每千瓦吞吐量提高了1.5至1.9倍,端到端延迟降低了1.7至3.6倍。在使用SemiAnalysis公开的InferenceX套件进行的测试中,功耗为700瓦的Jalapeño与额定功率为1200瓦和1400瓦的加速器进行了对比。OpenAI计划在今年晚些时候开始在自有数据中心部署该芯片。

此次评估涵盖了三个开源权重模型:GPT-OSS 120B、DeepSeek R1 670B以及月之暗面(Moonshot AI)拥有1万亿参数的Kimi K2.5。OpenAI报告称,在低延迟运行点下,其性能优势最为显著,声称每千瓦吞吐量比GB300最快的前一个令牌间时间设置快了8.6至104.3倍。

虽然OpenAI将结果标准化为每个加速器公布的封装热设计功耗(TDP),但该公司指出,在测试期间Jalapeño的实际持续功耗保持在550瓦或以下。附录分析比较了每个加速器的总公用事业电力——Jalapeño为1.18千瓦,而GB300为2.55千瓦——这使得性能差距缩小。同样,当将Jalapeño与配置用于多令牌预测的GB300进行基准测试时,OpenAI的最高效率优势收缩至约1.5倍。

这些结果附带几个重要的注意事项。Jalapeño并未与Vera Rubin进行测试对比,后者是英伟达的平台,预计将为OpenAI同意在2026年下半年部署的首批吉瓦级系统供电。此外,该芯片不支持训练工作负载,而在这一领域英伟达的硬件仍占据主导地位。主要的对比也将Jalapeño的单令牌预测与运行相同任务的GB300设置进行了匹配,尽管生产部署通常利用多令牌预测。SemiAnalysis与OpenAI工程师在公司实验室共同进行了InferenceX测试,将该硅片描述为“击败了我们能够测试的每一款英伟达、AMD和谷歌芯片”。

今年6月发布的每个Jalapeño封装,在经过九个月的RTL到流片周期后,将其计算芯片与六个HBM4堆栈配对,提供216 GiB的内存,带宽为15.4 TB/s。相比之下,GB300在1400瓦的额定功率下搭载288GB的HBM3E,这意味着Jalapeño每瓦额定功率提供的内存大约多出50%。根据OpenAI在Hot Chips大会上的演示,该架构的主要瓶颈在于暴露聚合HBM带宽,而非增加原始容量。

高带宽内存(HBM)仍然是半导体行业最紧缺的商品。三星、SK海力士和美光已经售出了它们直到2027年的HBM产能。短缺严重到英伟达据报正在测试降级版的Rubin Ultra配置,其内存低至192GB;SK海力士首席执行官郭诺正(Kwak Noh-jung)警告称,2027年将是短缺的高峰期。在8月23日的同一场Hot Chips会议上,美光指出,对于同等容量而言,HBM消耗的晶圆面积大约是DDR5的三倍——随着每一代的发展,这一惩罚性成本会进一步扩大。如果按照OpenAI去年10月与博通签署的10GW部署协议来扩展Jalapeño的规模,将使该公司成为HBM4供应的重要新需求方,而目前HBM4供应主要由英伟达通过多年期分配协议控制SK海力士所主导。

开发速度正在超越初始发布阶段。据彭博社报道,第二代芯片将在几个月内接近流片,第三代的概念工作也在进行中。据报道,第一代产品采用台积电3纳米级工艺,使OpenAI在可预见的未来继续处于与Blackwell和 Rubin相同的晶圆、内存和先进封装队列中。

OpenAI正在确保这些关键投入的同时,加深其对刚刚进行基准测试的那家公司的财务依赖。8月17日,英伟达同意为位于俄亥俄州、由OpenAI租赁的数据中心园区提供高达1050亿美元的融资。“英伟达是一个非常优秀的合作伙伴,我们确实需要大量的英伟达产品,”OpenAI硬件副总裁Richard Ho在宣布此事后告诉彭博社。

阅读原文