헤드라인 · 리포트

오픈에이아이(OpenAI)는 브로드컴(Broadcom)과 공동 개발한 700W 제라페뇨(Jalapeño) ASIC를 Hot Chips 2026에서 공개했으며, 이는 1,400W 엔비디아(Nvidia) GB300 대비 와트당 처리량은 1.9배 높고 지연 시간은 3.6배 낮다고 밝혔다.

이러한 효율성 도약은 맞춤형 추론 실리콘이 AI 랙의 전력 밀도 요구사항을 크게 줄여 초규모 클라우드 공급자의 도입 과정에서 열 및 전력망 제약을 완화할 수 있음을 보여줍니다.

업계 전문지Slicast · August 26, 2026 · 글로벌 · 출처: Tom's Hardware

중요도 92

엔비디아(Nvidia)가 데이터 센터를 위한 최대 1,050억 달러 규모의 자금 조달을 지원하기로 동의한 지 일주일도 채 지나지 않은 화요일, 오픈AI(OpenAI)는 핫 칩스(Hot Chips) 행사에서 자체 개발한 최초의 실리콘이 엔비디아의 최신 랙 시스템보다 성능이 우수하다는 벤치마크 결과를 발표했습니다. 브로드컴(Broadcom)과 공동 개발된 할라페뇨(Jalapeño) 추론 전용 집적회로(ASIC)는 와트당 처리량이 엔비디아의 GB200 및 GB300 구성 대비 1.5배에서 1.9배 더 높았으며, 종단 간 지연 시간은 1.7배에서 3.6배 감소했습니다. 700W 등급의 할라페뇨 칩은 세미애널리시스(SemiAnalysis)의 공개 추론 벤치마크 스위트인 InferenceX를 사용하여 1,200W 및 1,400W 등급의 가속기와 비교되었습니다. 오픈AI는 올해 말 자체 데이터 센터에 이 칩을 배포할 계획입니다.

평가에는 GPT-OSS 120B, DeepSeek R1 670B, 문샷 AI(Moonshot AI)의 1조 파라미터 모델인 Kimi K2.5 등 세 가지 오픈 가중치 모델이 포함되었습니다. 오픈AI는 낮은 지연 시간 운영 지점에서 가장 큰 성능 우위를 보고했으며, 여기서 와트당 처리량은 GB300의 기존最快 토큰 간 시간 설정보다 8.6배에서 104.3배 빠르게 증가했다고 밝혔습니다.

오픈AI는 각 가속기의 공표된 패키지 열 설계 전력(TDP)을 기준으로 결과를 정규화했지만, 테스트 중 할라페뇨의 측정 지속 전력은 550W 이하로 유지되었다고 언급했습니다. 가속기당 총 유틸리티 전력을 비교한 부록 분석(할라페뇨는 1.18kW, GB300은 2.55kW)은 성능 격차를 더 좁게 보여줍니다. 마찬가지로 다중 토큰 예측용으로 구성된 GB300과 할라페뇨를 벤치마킹할 때, 오픈AI의 최고 효율성 우위는 약 1.5배로 축소됩니다.

결과에는 몇 가지 중요한 주의 사항이 따릅니다. 할라페뇨는 2026년 하반기에 오픈AI가 배포하기로 동의한 첫 기가와트 규모 시스템을 구동할 예정인 엔비디아 플랫폼인 베라 루빈(Vera Rubin)과 테스트되지 않았습니다. 또한 이 칩은 훈련 워크로드를 지원하지 않으며, 이는 엔비디아 하드웨어가 여전히 지배적인 분야입니다. 주요 비교에서는 실제 생산 환경에서 일반적으로 다중 토큰 예측을 활용함에도 불구하고, 할라페뇨의 단일 토큰 예측이 동일한 작업을 실행하는 GB300 설정과 매칭되었습니다. 오픈AI 연구소 엔지니어들과 함께 InferenceX 테스트를 수행한 세미애널리시스는 해당 실리콘을 "우리가 테스트해 본 모든 엔비디아, AMD, 구글 칩을 능가한다"고 평가했습니다.

지난 6월 9개월간의 RTL부터 테이프아웃까지의 주기를 거쳐 공개된 각 할라페뇨 패키지는 연산 다이와 6개의 HBM4 스택을 결합하여 15.4 TB/s 대역폭으로 216 GiB의 메모리를 제공합니다. 반면, GB300은 1,400W 등급 하에 288GB의 HBM3E를 탑재하고 있어, 할라페뇨는 정격 전력 와트당 약 50% 더 많은 메모리를 제공합니다. 오픈AI의 핫 칩스 발표에 따르면, 해당 아키텍처의 주요 병목 현상은 원천 용량을 늘리는 것이 아니라 집계된 HBM 대역폭을 노출하는 데 있습니다.

고대역폭 메모리(HBM)는 반도체 산업에서 가장 긴박한 자재입니다. 삼성, SK하이닉스, 마이크론은 이미 2027년까지의 HBM 용량을 모두 판매했습니다. 부족 상황이 심각해 엔비디아가 최소 192GB의 저사양 루빈 울트라(Rubin Ultra) 구성을 테스트 중이라는 보도가 나왔으며, SK하이닉스의 곽노정 CEO는 2027년이 공급 부족의 정점이 될 것이라고 경고했습니다. 8월 23일 열린 같은 핫 칩스 컨퍼런스에서 마이크론은 동등한 용량 대비 HBM이 DDR5보다 웨이퍼 면적의 약 3배를 차지하며, 이는 세대마다 그 격차가 벌어지고 있다고 지적했습니다. 지난 10월 브로드컴과 체결한 10GW 규모 배포 계약 전반에 걸쳐 할라페뇨를 확장하면, 오픈AI는 현재 SK하이닉스와 장기 할당 계약을 통해 엔비디아가 장악하고 있는 HBM4 공급망에서 상당한 새로운 수요처로 부상하게 됩니다.

개발 속도는 초기 출시 이후 더욱 가속화되고 있습니다. 블룸버그의 보도에 따르면 두 번째 세대 칩은 수개월 내에 테이프아웃을 앞두고 있으며, 세 번째 세대 개념 작업도 진행 중입니다. 첫 번째 버전은 TSMC의 3nm급 공정을 사용하는 것으로 알려졌으며, 이로 인해 오픈AI는 당분간 블랙웰(Blackwell)과 루빈과 동일한 웨이퍼, 메모리, 고급 패키징 대기열에 있게 됩니다.

오픈AI는 이러한 핵심 자재를 확보하는 동시에, 방금 벤치마킹한 회사에 대한 재무적 의존도를 심화시키고 있습니다. 8월 17일, 엔비디아는 오하이오주에 위치한 오픈AI 리스 데이터 센터 캠퍼스를 위해 최대 1,050억 달러의 자금 조달을 제공하기로 동의했습니다. 발표 후 블룸버그와의 인터뷰에서 오픈AI 하드웨어 부사장인 리처드 호는 "엔비디아는 정말 좋은 파트너이며, 우리는 여전히 엔비디아 제품을 많이 필요로 한다"고 말했습니다.

원문 보기