Broadcom과 OpenAI가 기가와트급 배포를 위한 LLM 가속기 아키텍처 구축을 위해 협력 중

OpenAI와 Broadcom이 대규모 언어 모델 추론을 가속화하기 위해 설계된 OpenAI의 첫 번째 Intelligence Processor인 Jalapeño를 공개했으며, 이는 AI 개발의 전체 스택을 제어하려는 OpenAI의 전략을 크게 확장하는 의미를 갖습니다. 초기 설계에서 생산까지 불과 9개월 만에 완성되었으며, 이는 일반적인 고급 반도체 개발 사이클보다 훨씬 빠른 일정입니다. 칩의 가속화된 개발은 설계 프로세스의 여러 측면을 최적화한 OpenAI의 자체 모델들의 지원을 받았습니다. 이 회사들은 데이터센터 파트너와 함께 기가와트 규모로 이 가속기를 배포할 계획이며, 이는 새로운 기술에 대한 상당한 투자와 기대 수요를 시사합니다.

이번 공개는 OpenAI가 모델 개발을 넘어 맞춤형 하드웨어 설계로 나아가는 결정적인 움직임을 나타냅니다. 기존 칩 아키텍처를 적응시키기보다는 Jalapeño는 LLM 추론을 위해 처음부터 특별히 설계되었습니다. OpenAI의 하드웨어 프로그램을 이끌고 있는 Richard Ho는 이 칩이 "OpenAI 연구원과의 긴밀한 협력에서 얻은 자세한 인사이트를 활용하여 LLM 추론을 위해 처음부터 설계되었다"고 설명했습니다. 이러한 백지 상태 접근 방식은 데이터 이동을 최소화하고 컴퓨팅 리소스 균형을 맞추는 것을 우선시하며, 실제 성능을 이론적 피크에 더 가깝게 하는 것을 목표로 합니다. 초기 테스트에 따르면 Jalapeño는 현재 가속기들과 비교했을 때 와트당 향상된 성능을 제공하며, 이는 대규모 언어 모델을 실행하는 에너지 집약적 작업에 중요한 지표입니다.

이 협력은 제조를 넘어섭니다. Broadcom의 실리콘 구현과 Tomahawk 네트워킹 기술은 규모 달성에 핵심적이며, Celestica는 시스템 통합 기능을 제공합니다. Broadcom의 회장 겸 CEO인 Hock Tan은 "OpenAI와의 협력은 앞으로의 AI 시대를 위해 필요한 물리적 인프라를 확대하겠다는 근본적인 약속을 나타냅니다"라고 밝혔습니다. OpenAI의 회장 겸 공동 창립자인 Greg Brockman은 "Jalapeño는 컴퓨팅을 더욱 풍부하게 만들기 위한 우리의 장기 풀스택 인프라 전략의 일부이며, 이는 사람과 기업을 위해 더 빠르고 안정적이며 저렴한 AI를 만드는 것입니다"라고 덧붙였습니다.

엔지니어링 샘플들은 이미 유망한 결과를 보여주고 있으며, 초기 테스트에 따르면 GPT-5, 3-Codex, Spark를 포함한 프로덕션 워크로드를 목표 주파수와 전력으로 실행하면서 현재 가속기들을 크게 능가하는 와트당 성능을 달성하고 있습니다. 이 수직 통합 접근 방식은 OpenAI의 제어를 모델 개발에서 실리콘 설계까지 확장하며, AI가 자신을 구동하는 하드웨어를 만드는 데 도움을 주는 새로운 패러다임을 보여주며, 이는 산업 전체의 컴퓨팅 비용을 절감할 가능성이 있습니다.