컴퓨트·클라우드 · 리포트

Together AI, 온디맨드 추론 요금 및 오픈모델 추론 용량 예약을 표준화하는 Provisioned Throughput 출시

추론 경제가 스팟 용량에서 약정 용량으로 전환되면서 오픈 웨이트 LLM을 배포하는 기업의 비용 예측 가능성을 단순화합니다.

업계 전문지Slicast · 2026년 7월 8일 16:01 UTC · 미국 · 출처: The Futurum Group

중요도 61

Together AI는 토큰 기반 가격 책정, 99% 가동 시간 SLA(서비스 수준 계약), 그리고 독점 API 대비 최대 90% 비용 절감을 결합한 프론티어 오픈 모델용 예약 추론 용량 티어인 'Provisioned Throughput'를 출시했습니다. 이 제품은 기업들이 보고하는 생산 환경에서의 AI 관련 가장 시급한 두 가지 문제인 높은 연산 비용과 모델 가용성에 직접적으로 대응합니다. Together AI는 2026년까지 1,813억 달러 규모로 성장할 AI 플랫폼 시장에서 하이퍼스케일러 잠금(lock-in) 추론 서비스에 대한 비용 투명한 오픈 모델 대안으로 자신의 입지를 다지고 있습니다.

Provisioned Throughput는 MiniMax M3 및 GLM-5.2를 포함한 프론티어 오픈 모델에 대한 예약 용량을 제공하는 완전 관리형 추론 제품입니다. 이 상품은 GPU 시간(GPU-hour) 기반 과금을 토큰 기반 가격 책정으로 대체하여, 대규모 비용 예측을 복잡하게 만드는 인프라 계산 요소를 제거합니다. 99% 가동 시간 SLA는 생산 환경의 신뢰성 약속을 뒷받침하며, 고객은 자체적으로 GPU 인프라 관리를 수행할 필요가 없습니다. Together AI는 이 제품이 독점 API 대안 대비 최대 90% 낮은 비용을 제공한다고 주장하며, 프로덕션 환경에서 오픈 모델을 실행하는 팀들을 대상으로 하이퍼스케일러 추론 서비스에 직접적인 도전을 제기하고 있습니다.

GPU 시간 기반 과금에서 토큰 기반 가격 책정으로의 전환은 운영상 중요한 의미를 가집니다. GPU 시간 모델은 엔지니어링 및 재무 팀이 사용량 패턴을 비용 예측으로 변환해야 하는데, 이는 변동성이 큰 추론 워크로드 하에서는 제대로 작동하지 않습니다. 토큰 기반 가격 책정은 비용을 소비량에 직접 연계하여, 대규모 프로덕션 워크로드를 실행하는 팀들의 예산 모델링을 실현 가능하게 만듭니다. Futurum Group의 연구에 따르면, 조직의 45.5%가 "높은 연산 비용 및 인프라 요구사항"을 생성형 AI 채택의 주요 장애물로 꼽았으며, 생산 팀의 42%는 "모델 가용성 및 가동 시간"을 핵심 생산 지표로 적극적으로 모니터링하고 있습니다. Provisioned Throughput는 단일 관리형 제품을 통해 이 두 가지 문제를 모두 해결합니다. 또한, 조직의 50.6%가 AI 이니셔티브의 성공을 "비용 절감 및 절약" 기준으로 측정하므로, 추론 가격 구조는 단순한 운영 세부 사항이 아닌 성공 지표입니다. Together AI가 독점 API 대비 최대 90% 낮은 비용을 제공한다는 주장은 구매 담당팀이 기존 하이퍼스케일러 지출을 평가하기 위한 구체적인 벤치마크를 제공합니다.

99% 가동 시간 SLA는 신뢰성을 바람에서 계약적 의무로 변화시킵니다. 고객 대상 또는 수익에 중대한 영향을 미치는 AI 워크로드를 실행하는 기업에게 비관리형 추론 용량은 실제 비즈니스 리스크를 수반합니다. Together AI는 GPU 인프라 관리를 완전히 제거함으로써 가동 시간 장애가 일반적으로 발생하는 운영상의 취약점을 없애고, 해당 책임을 고객의 DevOps 팀 대신 공급자에게 이전합니다.

경쟁 포지셔닝도 주목할 만합니다. Futurum Group의 설문 조사 데이터에 따르면, 조직의 63.9%가 AWS Bedrock, Google Vertex AI, Azure AI Studio와 같은 "공급자 관리형 클라우드 플랫폼"에서 생성형 AI를 배포합니다. Together AI는 기업이 관리형 인프라를 포기하라고 요청하는 것이 아니라, 독점 모델 대신 오픈 모델을 실행하는 관리형 추론 티어를 제공하고 있습니다. 이는 Provisioned Throughput를 관리형 클라우드 카테고리 내의 보완재 또는 대체재로 포지셔닝합니다. AI 플랫폼 시장은 2026년까지 1,813억 달러 규모에 도달할 전망이며, 2030년까지 연평균 28.7%의 성장률(CAGR)을 보일 것으로 예상됩니다. 따라서 비용 투명한 오픈 모델 관리형 추론 티어의 타겟 가능한 기회는 상당합니다.

원문 보기