Together AI는 할인된 선점 가능 컴퓨팅 인스턴스로 GPU 클러스터 제공을 확대하며, 가격 민감한 중단 가능 AI 워크로드 세그먼트를 목표로 합니다.

Together AI가 GPU 클러스터용 선점 가능 컴퓨팅 옵션을 출시했으며, 온디맨드 가격에서 정액 50% 할인을 제공하고 있습니다. 회사의 최근 LinkedIn 공지에 따르면, 이 선점 가능 노드는 짧은 실험, 평가, 미세 조정 작업, 배치 작업, 추론 폭증 같은 중단 허용 워크로드를 대상으로 합니다.

용량이 회수될 때, 워크로드는 최대 5분 동안 체크포인트를 설정하고 정상 종료될 수 있습니다. 리소스를 사용할 수 있게 되면 클러스터는 요청된 목표 용량을 향해 자동으로 보충됩니다. 현재 이 기능은 공개 미리보기 상태이며, 이는 Together AI가 광범위한 롤아웃 전에 수요와 성능을 검증하고 있음을 시사합니다.

이 오퍼링은 경쟁이 치열한 AI 컴퓨팅 시장에서 가격 효율적인 GPU 인프라 확장에 대한 Together AI의 전략적 초점을 반영합니다. 유휴 또는 유연한 용량을 수익화하면서 비필수 워크로드를 실행하는 개발자에게 어필함으로써, 회사는 마진을 유지하면서 사용자 기반을 확대할 수 있습니다. 이러한 포지셔닝은 비슷한 할인 컴퓨팅 계층을 제공하는 더 큰 클라우드 제공자들에 대한 경쟁력을 강화합니다.