OpenAI deploys Jalapeño ASIC processors alongside AMD EPYC 'Turin' CPUs in rack-scale configurations, bypassing Nvidia's high-performance agentic chips (Vera, Arm AGI).

OpenAI은 호스트 CPU로 AMD EPYC Turin 프로세서와 함께 새로운 Jalapeño ASIC를 내부에 배포하고 있으며, 각 구성마다 1.5TB의 메모리를 갖추고 있습니다. OpenAI의 하드웨어 부사장 겸 책임자인 Richard Ho는 Jalapeño를 Turin과 짝짓기로 결정한 이유가 실용성과 위험 관리라고 말했습니다.

"Jalapeño 프로그램의 경우, 매우 현실적인 결정을 내리려고 노력했습니다"라고 Ho는 Tom's Hardware Premium과의 인터뷰에서 설명했습니다. "성능과 비용의 목표에 공격적으로 접근하고 싶었지만, 불필요한 위험은 피하고 싶었습니다. Vera는 단독으로는 성숙도 수준이 조금 뒤처져 있습니다. Turin 기기는 견고합니다. 우리가 필요한 것을 제공했고, 우리 파트너들이 그것에 대한 경험이 있었다는 점도 있습니다."

이 선택은 Nvidia와 OpenAI의 긴밀한 관계와 에이전트 워크로드를 위해 특별히 설계된 Arm 기반 CPU의 등장에도 불구하고, OpenAI의 신중한 접근 방식을 반영합니다. Vera와 Arm의 자체 AGI CPU는 x86 대안인 AMD와 Intel에 비해 에이전트 루프에서 복잡한 추론을 가속화하는 역할로 포지셔닝되어 있습니다. 다른 하이퍼스케일러들도 내부적으로 Arm 기반 프로세서를 배포하고 있습니다—Google은 Axiom을 사용하고, AWS는 Graviton을 실행합니다—하지만 새로운 Vera와 AGI는 효율성 최적화보다는 최고 성능 메시지로의 전환을 나타냅니다.

Arm은 AGI가 최신 x86 플랫폼의 2배 이상의 성능을 제공한다고 주장했습니다. 다만 이 수치는 독립적인 벤치마크가 아닌 내부 추정치를 기반으로 합니다. 20억 달러 규모의 약속에도 불구하고, 분석가들은 2년 이내에 시장 침투율이 낮은 한 자리 수에 머물 것으로 예상하고 있습니다. 한편 Nvidia는 Vera를 적극적으로 마케팅하고 있으며, 경쟁사인 AMD Turin 시스템보다 최대 1.8배 향상된 성능을 주장하고 있습니다. 그러나 이 주요 수치는 SPEC CPU 2026의 코어별 점수를 나누는 방식에서 나온 것입니다. 전체 벤치마크 성능에서 Vera는 3% 정도의 이점만을 보여줍니다.

Turin 대 Vera 결정은 궁극적으로 플랫폼 성숙도에 달려 있었습니다. x86_64는 AArch64보다 훨씬 더 깊은 기반을 가지고 있으며, 수십 년의 데이터센터 배포 경험이 있습니다. Arm의 64비트 확장은 x86 도입 후 12년 뒤에 나왔으며, 20년에 걸친 데이터센터 확산에도 불구하고, x86 생태계는 더욱 확립되어 있습니다.

실제적인 고려사항도 Turin에 유리했습니다. Vera는 보드 마운트된 반면 Turin 프로세서는 표준 소켓을 사용하므로, 서비스가 필요한 경우 칩 교체가 더 간단합니다. 프로덕션 서버 환경에서는 이런 차이가 거의 중요하지 않지만, 여전히 Turin에 유리한 점입니다. Ho가 Turin에 대한 파트너의 경험을 언급한 것은 OpenAI의 하드웨어 팀이 최첨단 성능 주장보다는 검증된 운영 패턴을 우선시했음을 보여줍니다.

OpenAI의 하드웨어 플릿이 진화함에 따라, 대안 호스트 시스템—잠재적으로 Vera 또는 AGI—을 갖춘 Jalapeño 배포가 가능할 수 있습니다. 현재의 랙 규모 롤아웃의 경우, Turin은 더 낮은 위험의 선택으로 입증되었습니다.