Crusoe는 Thinking Machines Lab과 협력하여 Crusoe Managed Inference에서 오픈 모델 추론 워크로드를 대규모로 지원합니다.

Crusoe와 Thinking Machines Lab은 오늘 Crusoe Cloud에서 랩의 오픈 모델에 대한 추론을 제공하기 위한 연간 6,500만 달러 규모의 계약을 발표했습니다. Crusoe Managed Inference를 통해 Thinking Machines Lab은 NVIDIA HGX B200 시스템의 전용 Tailored Deployment에서—Inkling 모델, GLM 5.2 및 5.3, 그리고 자체 미세 조정 변형을 포함한—다양한 프로덕션 워크로드를 서빙하며, NVIDIA Quantum-2 InfiniBand 네트워킹으로 연결되어 높은 처리량과 비용 효율적인 대규모 서빙을 위해 설계되었습니다.

"Crusoe Managed Inference는 우리를 평가 단계에서 프로덕션으로 빠르게 이동시켰으며 우리 시스템이 유지하는 기준을 충족했고, 우리가 하는 일의 핵심인 연구에 재투자할 수 있는 규모와 경제성을 제공했습니다," Thinking Machines Lab의 ML Infra Lead인 Myle Ott가 말했습니다.

"Thinking Machines Lab은 매우 정교한 엔지니어링 팀을 보유하고 있으며 성장하면서 파트너가 높은 기준을 충족할 것으로 기대합니다," Crusoe Cloud의 제품 관리 담당 SVP인 Erwan Menard가 말했습니다. "우리의 선도적인 AI 엔지니어 팀은 혁신적인 기업이 우리 전문성에 의존하여 규모에 따라 프로덕션에서 선호하는 모델을 실행할 수 있도록 비용 효율적이고 신뢰할 수 있는 인프라, 추론 및 모델 라이프사이클 도구를 서비스로 제공하기 위해 Crusoe Managed Inference를 구축했습니다."

Crusoe는 클러스터를 Tailored Deployment로 직접 실행하고 지원합니다—전용, 벤치마크된, SLA 지원 엔드포인트—Thinking Machines Lab에 자체 추론 스택을 관리하지 않고도 확장할 수 있는 가격 대비 성능 및 여유 공간을 제공합니다. 두 회사는 또한 대규모 합성 데이터 생성을 위한 배치 추론으로의 확장을 탐색하고 있으며, 추론을 연구를 위한 선순환으로 전환하고 있습니다.

Thinking Machines Lab은 출시 1년 미만 만에 Crusoe Managed Inference를 계약 연간 반복 수익 1억 달러 이상으로 이끌어낸 증가하는 고객층에 합류했습니다.