OpenAI와 Broadcom이 9개월 개발 스프린트를 통해 공동 개발한 맞춤 추론 ASIC인 Jalapeño를 공개했습니다. 샘플이 준비되었으며, 추론 워크로드에서 기존 GPU 대비 약 50% 비용 절감을 주장합니다.

OpenAI와 Broadcom은 9개월의 협력을 통해 개발한 맞춤형 추론 ASIC인 Jalapeño를 공개했습니다. OpenAI는 칩의 첫 번째 샘플을 받았으며 현재 AI 작업을 실행할 수 있는 능력을 테스트하고 있습니다.

Broadcom CEO Chen Fuyang은 맞춤형 칩이 추론 워크로드에서 기존 AI GPU에 비해 약 50%의 비용 절감을 제공한다고 말했습니다. 공동 개발은 추론 작업을 위한 최적화된 하드웨어를 통해 경쟁 우위를 확보하려는 OpenAI의 노력을 나타냅니다.

이러한 움직임은 대규모 운영자들이 추론 비용과 운영 비용을 줄이기 위해 맞춤형 실리콘을 추구하는 AI 인프라의 신흥 추세를 강조합니다. 현재 샘플이 손에 들어와 평가 중인 상황에서, 칩의 생산 도입 경로와 OpenAI의 비용 구조에 미칠 잠재적 영향은 아직 입증되어야 합니다.