OpenAI와 Broadcom이 OpenAI의 첫 커스텀 AI 추론 칩 Jalapeño를 공개. LLM 추론용으로 설계, 50% 비용 절감 목표, 9개월 개발 후 2026년 말 gigawatt-scale 배포 예정.

오픈AI와 브로드컴은 오픈AI의 첫 번째 맞춤형 AI 추론 칩인 '할라페뇨(Jalapeño)'를 공개했다. 대규모 언어 모델(LLM) 추론을 위해 처음부터 설계된 이 칩은 기존 반도체 설계에 의존하던 시대를 넘어, 기업들이 수직 통합형 AI 인프라로 나아가는 데 있어 중요한 진전을 의미한다.

이 칩은 추론 비용을 50% 절감하는 것을 목표로 하며, 운영 비용이 직접적으로 배포 마진에 영향을 미치는 분야에서 상당한 효율성 향상을 가져온다. 개발 기간은 9개월이었으며, 오픈AI 자체 모델이 설계 과정에서 실제 최적화 목표를 제공함으로써 개발 속도가 가속화되었다.

2026년 말까지 기가와트(GW) 규모의 배포가 계획되어 있으며, 이는 칩의 준비도와 오픈AI가 추론 워크로드 전반에 걸쳐 맞춤형 실리콘(Silicon)을 확장하겠다는 의지에 대한 신뢰를 나타낸다. 이러한 움직임은 추론이 주요 컴퓨팅 수요로 부상함에 따라 GPU 벤더에 대한 의존도를 줄이고 단위 경제성을 개선하기 위해 주요 AI 기업들이 자체 칩을 구축한다는 더 넓은 산업 트렌드와 부합한다.