OpenAI推出与Broadcom合作开发的定制AI推理芯片Jalapeno，标志着OpenAI进入专有硅片设计领域。

OpenAI推出了Jalapeño，这是其首款自主开发的AI推理芯片，由OpenAI与博通（Broadcom）合作开发。这一举措标志着OpenAI在减少对第三方芯片制造商依赖方面迈出了重要一步，因为AI系统日益先进，用户基础也在不断扩大。

OpenAI并非唯一走上这条道路的公司。Meta也通过其Meta Training and Inference Accelerator（MTIA）项目推进了自有芯片的雄心壮志。与Meta的MTIA芯片一样，Jalapeño主要设计用于AI推理，而非模型训练。

推理是AI模型处理请求和生成响应的阶段。每当有人向ChatGPT提出问题时，幕后的推理系统都在工作。由于这些请求持续进行，大规模运行AI服务需要巨大的计算能力，使推理成为行业最大的运营成本之一。

传统处理器如CPU和GPU——尤其是由英伟达（Nvidia）、AMD和英特尔（Intel）供应的处理器——虽然足够强大来处理这些工作负载，但它们是为广泛的计算任务而设计的。这种灵活性在财务和能源消耗方面都有代价。推理芯片采用不同的方法，是为了更高效地运行AI模型而专门设计的，可以降低功耗、降低运营成本，并在高负载下提供更快的响应。通过开发专用硬件，OpenAI等公司可以优化性能，同时减少对外部芯片供应商的依赖。

云规模推理处理器与消费电子产品中的芯片从根本上不同。它们是为数据中心设计的，消耗数百瓦的功率，需要复杂的冷却系统才能高效运行。相比之下，智能手机和笔记本电脑已经包含了自己的AI加速器，形式是神经处理单元（NPUs），它们处理面部识别、语音处理、图像增强和包括文本生成在内的设备上AI功能等任务。NPUs不是CPU或GPU的替代品，而是与它们并行工作，每个处理器处理它最擅长的任务。

在2026年发布的旗舰智能手机中，如Galaxy S26系列，NPUs与CPU和GPU集成在同一System-on-Chip（SoC）中，使得设备上AI无需完全依赖云处理就能更快更高效地运行。推理芯片的崛起不太可能解决行业不断增长的内存需求。AI模型在数据中心中继续需要大量内存，而消费者设备也随着制造商添加越来越复杂的AI功能而需要更多内存。因此，对更高容量内存的需求预计将保持强劲，继续对组件成本造成压力。

尽管如此，专用推理处理器预计将在AI驱动的服务的未来中发挥关键作用。从自主物流和预测制造到机器人和大规模AI助手，它们承诺提供更快的性能、更低的运营成本和改进的能源效率。大多数消费者永远不会直接看到或与Jalapeño等芯片互动，但他们很可能会受益于这些处理器设计用于驱动的更快、更便宜和更响应灵敏的AI服务。