Cerebras, Oracle와 파트너십 발표… AI 추론 워크로드 가속화 목표

Cerebras Systems와 Oracle은 AI 연구소, 기업, 그리고 대화형 지능형 애플리케이션을 개발하는 개발자들이 Oracle Cloud Infrastructure(OCI)에서 Cerebras의 고속 추론을 이용할 수 있도록 하는 계획을 발표했습니다. 이번 파트너십은 OCI Enterprise AI의 Dedicated AI Clusters를 포함한 Oracle의 기존 인프라 및 AI 추론 역량을 기반으로 합니다.

AI 애플리케이션이 더 복잡한 다단계 작업을 수행하게 되면서, 추론 속도는 사용자 경험에서 매우 중요한 요소가 되었습니다. AI 모델을 한 번 호출할 때마다 지연 시간이 추가되며, 이는 여러 단계에 걸쳐 추론하고 행동하는 에이전트 워크플로를 느리게 만들 수 있습니다. 더 빠른 추론은 개발자가 더 정교한 작업을 수행하면서도 반응성을 유지하는 에이전트와 애플리케이션을 구축할 수 있게 합니다.

Cerebras의 공동 창립자이자 CEO인 Andrew Feldman은 "사람들은 AI가 가치 있는 작업을 빠르게 수행하기를 원합니다."라고 말했습니다. "에이전트가 취하는 모든 단계에는 추론이 필요합니다. 추론하든, 자신의 작업을 점검하든, 행동을 취하든 마찬가지입니다. 추론이 빠를수록 사용자가 기다리지 않고도 AI가 더 많은 작업을 수행할 수 있습니다. Cerebras의 고속 추론을 Oracle Cloud Infrastructure에 도입함으로써 AI 연구소, 기업, 개발자들이 더 많은 일을 더 빠르게 해내는 에이전트를 구축할 수 있는 속도를 확보하게 됩니다."

고속 AI 추론을 위해 설계된 Cerebras Wafer-Scale Engine은 단일 웨이퍼 규모 프로세서에 연산과 메모리를 통합합니다. 이 설계는 데이터 이동과 칩 간 통신을 줄여, 긴 추론 시퀀스와 다단계 에이전트 워크플로를 위한 빠른 토큰 생성을 지원합니다.

Oracle Cloud Infrastructure의 사장 Mahesh Thiagarajan은 "AI 추론에는 선택지가 필요합니다."라고 말했습니다. "에이전트가 더 복잡한 작업을 맡게 되면서, 고객들은 각 애플리케이션의 성능 요구에 맞는 컴퓨팅을 원합니다. Cerebras의 추론을 Oracle Cloud Infrastructure에 도입하면, 당사의 광범위한 컴퓨팅 포트폴리오에 또 하나의 초고속이며 결정론적인 옵션이 추가되어, 고객이 빠르게 응답하고 까다로운 작업을 처리하는 에이전트를 구축하는 데 도움이 될 것입니다."

OCI에서의 Cerebras Inference는 2027년 중 이용 가능할 것으로 계획되어 있으며, 이를 통해 OCI 고객은 속도가 중요한 AI 애플리케이션을 위한 또 하나의 선택지를 얻게 됩니다.