OpenAI는 자체 개발 AI 칩을 공개하며 가속기 시장에서 Nvidia의 지배력을 도전하는 인하우스 실리콘 전략으로의 전환을 선언했다.

OpenAI는 Broadcom와 파트너십을 맺고 자체 개발한 첫 번째 맞춤형 AI 추론 칩 ‘Jalapeño’를 공개했다. 이 발표는 회사가 모델 자체를 구축하는 것과 함께 모델을 구동하는 하드웨어도 설계하기 시작했다는 점에서 회사의 전략적 전환을 의미한다. CEO 샘 알트만은 짧은 게시글을 통해 “우리는 칩을 만들었고, 그것은 빠르다”라고 이번 성과를 요약했다.

OpenAI에 따르면 Jalapeño는 GPT-OSS 120B, DeepSeek R1, Kimi K2.5 1T를 포함한 벤치마크에서 비교 시스템 대비 와트당 AI 작업 처리량이 1.5배에서 1.9배 더 많다. 또한 내부 테스트 결과 전체 지연 시간이 1.7배에서 3.6배 감소했다. 이러한 결과는 InferenceX 벤치마크를 사용하여 Nvidia 가속기를 기반으로 구축된 상용 시스템과 비교하여 측정되었다. Nvidia 비교 설정은 테스트 구성에 따라 1,200W 또는 1,400W로 평가되었지만, Jalapeño는 700W에서 작동한다. OpenAI는 고도로 상호작용적인 AI 워크로드의 경우 최대 4.1배의 성능 향상을 보고했다. 다만 회사는 이러한 결과가 특정 워크로드에서의 자체 보고된 벤치마크 결과이며, Jalapeño가 광범위한 AI 컴퓨팅 전반에 걸쳐 Nvidia를 대체했음을 나타내는 것은 아니라고 밝혔다.

Jalapeño는 AI 모델이 사용자 요청을 처리하고 응답하는 단계인 추론을 위해 특별히 설계되었다. 여기에는 표준 쿼리, 코딩 에이전트, AI 어시스턴트 및 API 호출이 포함된다. 범용 프로세서를 추구하기보다 OpenAI는 이러한 추론 워크로드에 특화된 칩을 엔지니어링했다. 회사는 실리콘 분야에서 Broadcom와, 보드, 랙 및 생산 시스템 분야에서 Celestica와 협력했다. 칩, 메모리, 네트워킹, 소프트웨어를 포함한 전체 스택을 최적화함으로써 OpenAI는 급증하는 컴퓨팅 수요와 상승하는 전기 요금이라는 두 가지 중요한 산업 과제를 해결하고자 한다.

OpenAI는 2026년 말까지 자체 컴퓨팅 인프라 내에서 Jalapeño의 배포를 시작할 계획이다. 중요하게도, 회사는 훈련 및 추론 작업 모두를 위해 Nvidia 및 기타 가속기를 계속 광범위하게 배포할 것이다. Jalapeño는 다세대 칩 프로그램의 첫 단계를 대표한다. OpenAI는 두 번째 세대가 이미 심층 개발 중이며 세 번째 세대도 현재 구체화되고 있다고 확인했다.

특이할 점은 AI 자체가 Jalapeño 제작에서 중심적인 역할을 했다는 것이다. 구현 탐색, 회로 최적화, 엔지니어링 및 테스트 가속화를 위해 AI 도구를 활용하여 OpenAI는 초기 설계부터 테이프아웃까지 단 9개월 만에 진행했다. 궁극적인 목표는 간단하다: 동일한 전력 및 하드웨어 공간에서 더 많은 AI 작업을 추출하는 것이다. 성공적으로 확장될 경우 이 접근 방식은 글로벌 수요가 지속적으로 증가함에 따라 더 빠른 ChatGPT 응답, 더 강력한 AI 에이전트 및 감소된 운영 비용을 제공할 수 있다.