Together AI의 토큰 볼륨이 하이퍼스케일러 클라우드 가격 대비 저렴한 대체 AI 컴퓨팅 수요 가속화 속에서 400조 달성.

Together AI는 현재 월 400조 개 이상의 추론 토큰을 처리하고 있으며, 이는 1년 전 월 300억 개에서 약 13,000배 증가한 수치입니다. 클라우드 추론 플랫폼은 조용히 전 세계에서 가장 빠르게 성장하는 AI 인프라 회사 중 하나가 되었습니다. 이는 간단한 명제에 기반합니다: 기업들은 독점 API의 엄청난 비용 없이 강력한 AI 모델을 원한다는 것입니다.

설립자 Vipul Ved Prakash는 성장 궤적을 대부분의 SaaS 창업자들이 부러워할 만한 용어로 설명했습니다. 일일 토큰 처리량은 약 10억 개에서 1조 개 이상으로 증가했으며, 1,000배 이상의 도약입니다. 회사는 2026년 초까지 약 10억 달러의 연간 수익에 도달한 것으로 알려져 있습니다. 이는 평가액이나 자금 조달 이정표가 아니라 실제 수익입니다. 이는 진정한 견인력을 갖춘 회사와 벤처 캐피털로만 지탱되는 회사를 구분하는 지표입니다.

경제성은 명확합니다. OpenAI나 Anthropic의 독점 최첨단 모델에 대한 추론 실행에는 기업 규모에서 빠르게 증가하는 토큰당 가격이 수반됩니다. 반대로 오픈소스 모델은 조직이 훨씬 낮은 비용으로 비교할 수 있는 수준의 워크로드를 실행할 수 있게 하며, 커스터마이제이션 및 미세 조정이라는 추가 이점이 있습니다. Together AI는 이러한 전환의 중심에 자리 잡았고, 오픈소스 모델의 배포 및 확장을 가능한 한 마찰 없이 만들었습니다. 이 플랫폼은 비용에 민감한 스타트업과 대규모 엔터프라이즈 모두에게 어필하며, 특히 후자는 공급업체 종속성에 대해 점점 더 경계하고 있습니다.

2026년 6월 3일, Together AI는 Vector Core Compute의 새로운 추론 클라우드 플랫폼의 첫 번째 상용 고객이 되었습니다. 이 플랫폼은 고처리량 AI 워크로드를 위해 특별히 설계된 하이브리드 CPU/GPU/RDU 아키텍처 기반입니다. 이 파트너십은 더 광범위한 시장 현실을 반영합니다: 학습이 아닌 추론이 지배적인 컴퓨팅 워크로드가 되고 있다는 것입니다. 대규모 언어 모델의 학습은 일회성 또는 주기적 비용입니다. 추론, 즉 해당 모델을 사용자에게 실제로 제공하는 것은 지속적으로 실행되며 채택에 따라 확장됩니다.

400조 토큰이라는 이정표는 AI 추론 시장이 새로운 단계로 진입하고 있음을 나타냅니다. 이는 모델의 참신성보다 규모와 비용 효율성이 더 중요한 단계입니다. 오픈소스 채택은 기업들이 Together AI와 같은 플랫폼에서 훨씬 더 낮은 비용으로 동등한 모델을 실행할 수 있게 되므로 독점 모델 공급자의 가격 책정력을 위협합니다. 다만 집중화의 위험이 있습니다. 소수의 오픈소스 모델이 지배한다면, Meta의 Llama 제품군을 명백한 예로 들 수 있지만, 추론 계층은 빠르게 상품화될 수 있습니다. Vector Core Compute 파트너십은 Together AI가 이미 시장이 혼잡해지기 전에 차세대 하드웨어 이점을 확보함으로써 이에 대비하고 있음을 시사합니다.