OpenAI가 Broadcom과 파트너십을 맺고 Jalapeño라는 맞춤형 LLM 추론 가속기 칩을 공개, 2026년 말 생산 배포를 목표로 전스택 AI 컴퓨팅 독립과 약 50% 비용 절감 잠재력을 시사.

OpenAI가 자신의 기술 스택에 커스텀 하드웨어를 추가하고 있다. OpenAI와 Broadcom은 "Jalapeño"를 공개했는데, 이는 OpenAI의 첫 번째 "Intelligence Processor"로 대규모 언어 모델 추론을 위해 특별히 설계된 커스텀 가속기이며, 두 회사가 함께 개발 중인 다중 세대 플랫폼의 첫 번째 칩이다. Broadcom의 Hock Tan CEO와 Charlie Kawwas 회장이 첫 번째 웨이퍼를 OpenAI의 Sam Altman CEO와 Greg Brockman 회장에게 전달했으며, 이는 수년간 모델과 제품에 집중한 후 OpenAI의 커스텀 하드웨어 진출의 첫 걸음을 의미한다.

수정된 범용 칩과는 달리, Jalapeño는 현대의 LLM 추론을 위해 처음부터 설계되었다. OpenAI는 칩 설계를 담당하고, Broadcom은 Tomahawk 네트워킹 칩을 포함한 실리콘 제조 및 네트워킹 기술을 제공하며, Celestica는 보드, 랙 및 시스템 통합을 관리한다. 초기 테스트는 현재 최첨단 하드웨어보다 "상당히 우수한" 와트당 성능을 보였으나, 이러한 수치는 아직 최종화되지 않은 자체 보고 숫자이다. 기술 보고서는 곧 발표될 예정이다. Jalapeño가 테스트된 특정 칩, 사용된 작업 및 테스트 조건은 여전히 명확하지 않다.

이 아키텍처는 데이터 이동을 줄이고 활용도를 이론적 최대값에 더 가깝게 끌어올린다고 알려져 있다. 엔지니어링 샘플은 이미 실험실에서 머신러닝 워크로드를 실행 중이며, 여기에는 현재 Cerebras 하드웨어에서 실행되는 GPT-5.3-Codex-Spark 모델이 포함되어 있다. Cerebras는 추론 전문 공급자이다.

설계에서 테이프아웃까지의 개발 프로세스는 단 9개월이 걸렸는데, 이는 OpenAI가 자신이 인식하고 있는 고성능 반도체에 대한 가장 빠른 ASIC 개발 사이클이다. OpenAI의 자체 모델이 설계 프로세스의 일부를 가속화하는 데 도움이 되었지만, 칩 계획에 대한 소문은 2023년부터 도는 상황이었다.

이 발표는 칩에서 제품까지 전체 스택을 제어하는 것이 더 빠르고, 더 안정적이며, 더 낮은 비용으로 모델 운영을 가능하게 한다는 OpenAI의 광범위한 주장을 반영한다. Broadcom의 Tan CEO는 첫 번째 배포가 2026년 말에 기가와트 규모로 Microsoft 및 기타 파트너와의 협력하에 계획되어 있다고 밝혔다. Broadcom이 첫 번째 단계를 확보하기 위해 Microsoft가 칩의 40%를 구매하기로 보장하도록 요구했다고 전해진다.