OpenAI는 자체 개발한 할라페뇨 칩이 AI 추론 벤치마크에서 엔비디아 블랙웰을 능가한다고 주장한다.

OpenAI의 맞춤형 할라페뇨(Jalapeño) AI 칩이 주요 추론 벤치마크에서 엔비디아의 블랙웰 기반 GB300을 능가한 것으로 나타났다. 이는 동사가 공개한 결과를 바탕으로 한 것이다. 이러한 발견은 AI 모델 실행에 있어 엔비디아 의존도를 줄이기 위한 OpenAI의 지속적인 노력을 강조한다.

화요일 스탠퍼드 대학교에서 열린 핫 칩스(Hot Chips) 컨퍼런스에서 발표된 테스트 결과는 할라페뇨가 와트당 더 우수한 성능과 더 빠른 응답 시간을 제공함을 입증했다. 평가는 세미애널리시스(SemiAnalysis)의 인퍼런스X(InferenceX) 벤치마크를 사용하여 수행되었다. 훈련 중심 실리콘과는 달리, 할라페뇨는 훈련된 모델이 사용자 요청을 처리하는 단계인 AI 추론을 위해 특별히 설계되었다.

OpenAI의 하드웨어 책임자 리처드 호(Richard Ho)는 이 칩이 대용량 워크로드와 빠른 응답이 필요한 애플리케이션을 모두 처리하도록 설계되었다고 밝혔다. 테스트에는 OpenAI의 소규모 오픈소스 모델과 함께 딥시크(DeepSeek) 및 문샷 AI(Moonshot AI)의 모델이 포함되었다. 700W의 낮은 전력 소비로 작동하는 이 칩은 데이터 센터 비용을 크게 절감하는 것을 목표로 한다. 호는 블룸버그와의 인터뷰에서 잠재적 비용 절감 효과에 대해 “정말 훌륭한 칩이다. 비용이 많이 떨어질 것”이라고 말했다.

OpenAI 연구소에서 테스트를 수행한 세미애널리시스는 할라페뇨가 대부분의 시나리오에서 블랙웰보다 와트당 성능에서 앞섰음을 확인했다. 그러나 연구 기관은 할라페뇨가 최신 HBM4 메모리를 활용하는 반면 비교 대상이 완전히 동일하지 않다고 지적했다. 엔비디아의 차기 베라 루빈(Vera Rubin) 플랫폼 역시 HBM4를 탑재하여 보다 직접적인 경쟁 벤치마크를 제공할 예정이다. 세미애널리시스 분석가들은 CNBC와의 인터뷰에서 “할라페뇨는 HBM4를 사용하는 루빈과 같은 칩들과 실제로 경쟁하고 있다”며 “베라 루빈 시스템은 현재 고객에게 출하되기 시작했지만, OpenAI가 엔지니어링 샘플 이상의 할라페뇨 제품을 갖추기까지는 아직 시간이 걸릴 것”이라고 덧붙였다.

OpenAI는 반도체 제조사 브로드컴(Broadcom)과의 파트너십을 통해 6월 할라페뇨를 처음 공개했다. 초기 샘플은 기존 AI GPU 대비 약 50%의 비용 절감 가능성을 시사했다. 이 칩은 개발 후 약 9개월 만에 생산을 위해 대만세미콘덕터제조공사(TSMC)에 인도되었다. OpenAI는 2026년 말 제한적인 배포를 계획하고 있으며, 2027년에 더 광범위한 출시가 예상된다. 두 번째 세대 할라페뇨 개발도 이미 진행 중이다.

이러한 노력은 주요 기술 기업들이 AI 워크로드를 위해 맞춤형 반도체에 막대한 투자를 하는 더 넓은 산업 트렌드와 부합한다. 구글(Google), 메타(Meta), 아마존(Amazon) 또한 자체 AI 칩 프로그램을 유사하게 추진하고 있다. 이러한 변화에도 불구하고 OpenAI는 계산 집약적인 AI 훈련 작업에 특히 엔비디아에 계속 의존할 것이라고 밝혔다. 호는 “엔비디아는 정말 좋은 파트너이며, 우리는 여전히 많은 엔비디아 제품이 필요하다”라고 말했다.

산업 분석가들은 검증된 성능, 유연성, 그리고 확고한 CUDA 소프트웨어 생태계로 인해 엔비디아 GPU가 여전히 중요할 것으로 예상한다. 한편 할라페뇨는 OpenAI가 AI 모델 추론 확장 비용과 효율성에 대해 더 직접적인 통제력을 갖도록 제공한다.