Cerebras와 Gimlet Labs가 협력하여 AI 추론 클라우드 플랫폼을 구축하며, 첫 번째 데이터센터는 2026년에 출범할 예정이다.
Cerebras Systems Inc. (CBRS)는 응용 인공지능 연구 및 인프라 스타트업인 Gimlet Labs와 협력하여 Cerebras의 웨이퍼급 인공지능 시스템을 Gimlet Cloud에 통합하고 있습니다. 이 협력은 에이전트형 및 실시간 인공지능 애플리케이션을 위해 초당 최대 3,000개 토큰의 추론 속도를 목표로 하며, 첫 번째 Cerebras 기반 Gimlet Cloud 데이터센터는 올해 말에 출시될 예정입니다. 이 파트너십은 두 회사가 프로덕션 규모에서 더 빠른 인공지능 추론을 제공하기 위해 노력함에 따라 인프라부터 개발자 API까지 확대될 것입니다.
**시스템 아키텍처**
추론은 훈련된 인공지능 모델이 응답과 출력을 생성하는 과정입니다. 인공지능 에이전트, 음성, 영상 시스템, 어시스턴트와 같은 애플리케이션의 경우, 출력 생성 속도는 애플리케이션의 반응성에 직접적인 영향을 미칩니다.
Gimlet Cloud는 모든 워크로드를 처리하기 위해 단일 프로세서 유형에만 의존하는 대신, Cerebras의 Wafer Scale Engine과 그래픽 처리 장치(GPU)를 결합합니다. Gimlet의 기술은 인공지능 추론을 별개의 단계로 분할하고 각 단계를 해당 워크로드에 가장 적합한 컴퓨팅 하드웨어로 라우팅합니다. 이 하이브리드 접근 방식은 Cerebras의 빠른 토큰 생성과 GPU가 제공하는 높은 처리량을 활용하여, Gimlet의 최고경영자 Zain Asgar에 따르면 프로덕션 규모에서 초당 최대 3,000개 토큰을 목표로 합니다.
**런칭 파트너십**
Gimlet은 Cerebras의 CS-4 기술 런칭 파트너로 역할을 하며, Gimlet Cloud 고객에게 Cerebras의 최신 시스템에 대한 접근 권한을 제공합니다. Cerebras의 최고기술책임자 Sean Lie는 Cerebras를 Gimlet의 추론 클라우드의 네이티브 구성 요소로 포함시키면 더 많은 개발자에게 프로덕션 규모의 인공지능 추론 기술을 제공할 수 있을 것이라고 언급했습니다.
두 회사는 지난해부터 고객 참여에 대해 협력해왔으며, 통합된 시스템은 이미 비공개 배포에서 토큰을 제공하고 있습니다. 이제 소프트웨어, 인프라 설계, API, 개발자 도구, 최적화, 검증 및 프로덕션 운영에 걸쳐 협력을 확대할 계획입니다.
**시장 맥락**
9월 말 현재 CBRS 주식을 둘러싼 소매 투자자 심리는 약세 영역에 머물러 있었습니다. 연초부터 CBRS 주식은 36% 이상 하락했으며, 해당 주식을 보유 중인 ARK Innovation ETF (ARKK)와 State Street SPDR S&P Semiconductor ETF (XSD)는 각각 약 15%와 58%의 상승률을 기록했습니다.