OpenAI가 Ultrafast API 접근을 더 광범위한 사용자층으로 확대하고 있으며, 추론 컴퓨팅에 대한 수요 증가를 시사합니다.

OpenAI는 9월 29일의 DevDay 근처에서 Ultrafast API 모드의 광범위한 출시를 준비 중인 것으로 보이며, OpenAI Platform 및 API 문서 전체에 새로운 참조가 나타나고 있습니다. TestingCatalog는 Responses API Playground(현재 숨겨진 상태)를 위해 준비 중인 전용 속도 선택기를 발견했으며, 여기서 개발자들은 Standard, Fast, Ultrafast 처리 중에서 선택할 수 있습니다.

OpenAI는 이미 GPT-5.6 Sol로 Ultrafast를 공식 미리보기로 제공했으며, 초당 최대 750개의 출력 토큰 속도와 Standard보다 최대 14배 빠른 추론을 설명했습니다. 이 기능은 Cerebras에 의해 구동되며, 현재 선택된 고객들로만 접근이 제한되어 있습니다.

OpenAI는 이후 GPT-6 Sol 및 GPT-6 Astra를 포함한 GPT-6 제품군을 출시했습니다. 모든 GPT-6 모델이 출시 시점에 Ultrafast를 지원할 것이라는 확인이 이루어지지 않았습니다.

개발자의 경우, 주요 절충점은 경제적일 가능성이 높습니다. Standard, Fast, Ultrafast 모드는 조직들이 각 워크로드의 가치에 따라 지연 시간을 선택할 수 있게 하여, 응답 시간이 수익이나 생산성에 직접 영향을 미치는 애플리케이션을 위해 더 높은 비용의 추론을 예약할 수 있습니다.

이 기능은 OpenAI의 광범위한 인프라 전략 내에 부합합니다. 회사는 올해 초 750 MW Cerebras 파트너십을 발표했으며, 용량이 2028년까지 단계적으로 배포될 예정입니다. TestingCatalog는 따로 새로운 OpenAI Platform 온보딩 계층을 발견했으며, 프로덕션 워크로드를 겨냥한 Accelerate 옵션을 포함합니다. 이러한 변화들을 함께 고려하면, DevDay는 API 인프라, 컴퓨팅 계층, 프로덕션 AI 시스템을 구축하는 개발자들을 위한 도구에 크게 초점을 맞출 수 있음을 시사합니다.