OpenAI와 Broadcom이 대규모 LLM 추론 워크로드 처리를 위해 9개월 만에 개발한 커스텀 ASIC 추론 프로세서 Jalapeño 공개.

OpenAI와 Broadcom이 9개월간의 엔지니어링 스프린트를 통해 개발한 커스텀 ASIC 추론 프로세서인 Jalapeño를 공개했습니다. 이 파트너십은 인프라 확장을 지원하기 위해 OpenAI가 자체 설계 실리콘으로 전환하고 있음을 보여줍니다.

Jalapeño는 대규모 LLM 추론 워크로드를 처리하도록 설계되었으며, AI 인프라 구축의 핵심 병목을 해결합니다. 목적별로 설계된 ASIC으로서, 업계 전반에서 수요가 계속 가속화되고 있는 추론 단계를 대상으로 합니다.

이 개발은 AI 리더들 사이에서 성장을 관리하고 중요한 인프라 구성 요소를 제어하기 위해 커스텀 실리콘으로 전략적 전환이 일어나고 있음을 신호합니다. OpenAI의 사내 칩 개발은 추론의 성능과 효율성을 최적화하려는 다른 하이퍼스케일러들의 유사한 이니셔티브를 따릅니다.