Together AI, 오픈소스 AI 클라우드 기업으로, 83억 달러의 기업 가치를 달성했습니다.
Together AI의 고객들은 폐쇄형 대안 대신 오픈소스 모델을 운영함으로써 6배에서 60배에 달하는 비용 절감 효과를 보고하고 있습니다. 이러한 경제적 이점에 힘입어 이 회사는 불과 4년 만에 연간 예약액을 11억 5천만 달러 이상으로 끌어올렸습니다.
2022년에 설립된 이 회사는 스스로를 대규모로 오픈 모델을 학습, 미세 조정, 서비스하려는 팀을 위해 설계된 AI 네이티브 클라우드라고 소개합니다. DeepSeek, Kimi, Nemotron 같은 아키텍처를 지원합니다.
Together AI의 공동 창립자이자 최고경영자인 Vipul Ved Prakash는 Ce Zhang, Percy Liang과 함께 이 회사를 설립했습니다. 창립자들은 오픈 모델이 결국 독점 시스템과의 품질 격차를 좁힐 것이며, 기업들은 궁극적으로 이를 배포하기 위해 더 유연하고 저렴한 도구를 찾게 될 것이라는 전제 위에 조직을 구축했습니다. Vipul은 이렇게 말합니다. "우리의 사명은 지능이 비싸지 않고 풍부하게 존재하도록 하는 것입니다." MiniMax, DeepSeek, Kimi, NVIDIA의 모델들이 오픈 가중치 역량을 기술적 최전선으로 꾸준히 끌어올리면서 이러한 전략적 선택은 결실을 맺고 있습니다.
**추론 성능 지원**
이처럼 진화하는 작업 부하에 대응하기 위해 이 플랫폼은 AI 모델의 전체 수명 주기를 지원합니다. 소프트웨어 엔지니어는 API를 통해 호스팅된 모델에 접근하거나, 기업 고유의 데이터로 시스템을 미세 조정하거나, 대규모 학습을 위해 전용 GPU 클러스터를 임대할 수 있습니다. 이러한 서비스를 통해 Together AI는 현재 수천 개의 유료 기업 계정과 함께 100만 명 이상의 개발자를 지원하고 있습니다.
이 회사의 내부 연구팀은 음성 에이전트, 코드 어시스턴트 및 기타 실시간 소프트웨어에 낮은 지연 시간이 필수적이라는 점을 인식하고, 추론 속도에 많은 역량을 집중하고 있습니다.
실제 배포 데이터는 이러한 접근 방식의 재무적, 운영적 이점을 보여줍니다. Decagon은 1초 미만의 음성 에이전트를 운영하면서 폐쇄형 대안과 비교해 턴당 비용을 여섯 배 낮췄습니다. Cursor는 72개의 NVIDIA GB200 NVL72 GPU로 구동되는 시스템에서 낮은 지연 시간으로 실시간 추론을 실행합니다. Salesforce AI Research는 시스템 지연 시간을 50% 줄이고 운영 비용을 약 3분의 1 낮췄으며, Zomato는 분당 1,000건 이상의 메시지를 처리할 수 있는 고객 지원 봇을 배포한 후 고객 만족도 점수를 두 배로 높였습니다.
**인프라 및 하드웨어**
- **200MW:** 북미 전역에서 관리하는 기존 전력 용량
- **250MW:** Humain(사우디아라비아)을 통해 확보한 추가 전력 용량
- **12만 개 칩:** Humain에서 계약한 총 컴퓨팅 유닛(2027년 전량 할당)
- **7,000개 칩:** 2026년 11월까지 Humain에서 인도될 초기 하드웨어 물량
- **최대 10만 개 GPU:** 2028년까지 Hypertec과 5C Group이 공급하는 NVIDIA Blackwell 및 차세대 칩
**글로벌 데이터센터 확장 계획**
인프라 용량이 여전히 주요 운영상의 병목이기 때문에, Together AI는 전 세계적으로 추가 전력과 하드웨어를 확보하기 위해 과감하게 움직이고 있습니다. 이 회사는 이미 미국 메릴랜드의 전용 데이터센터와 스웨덴의 시설을 포함해 북미 전역에서 200MW의 전력을 관리하고 있습니다.
이러한 초기 거점을 넘어, 사우디아라비아의 Humain과 체결한 공식 계약으로 250MW의 전력과 12만 개의 컴퓨팅 칩에 접근할 수 있게 되었으며, Humain은 2026년 11월까지 초기 7,000개 칩을 인도할 예정입니다. 동시에 유럽 파트너인 Hypertec과 5C Group은 2028년까지 최대 10만 개의 NVIDIA Blackwell 및 차세대 GPU를 공급할 예정입니다.
이러한 인프라 성장을 위한 자금을 조달하기 위해 Together AI는 2026년 7월 시리즈 C 펀딩 라운드에서 8억 달러를 유치했습니다. 반도체 기업 NVIDIA의 자본 참여와 함께 Aramco Ventures가 주도한 이번 거래로 회사의 기업가치는 83억 달러로 평가되었으며, 이는 17개월 동안 100% 이상 증가한 수치입니다. 이 자본으로 Together AI는 향후 5년 동안 총 컴퓨팅 용량을 약 50배로 확장할 계획입니다.
**하이퍼스케일러 경쟁과 기업 도입**
확장되는 인프라를 바탕으로 Together AI는 다른 기술 스타트업과의 경쟁을 넘어, 이제 기업 워크로드를 두고 기존 하이퍼스케일러에 도전하고 있습니다. 이 회사의 상업 포트폴리오에는 이미 Salesforce, The Washington Post 같은 전통적 기업이 포함되어 있습니다. 또한 Krea, Pika, Hedra 같은 빠르게 성장하는 생성형 AI 기업에도 서비스를 제공하고 있으며, 이는 창의적 도구가 입소문을 탈 때마다 Together AI가 트래픽의 급증을 손쉽게 흡수한다는 점을 보여줍니다.
The Washington Post의 최고기술책임자인 Vineet Khosla는 이렇게 말합니다. "Together AI는 클로즈드 소스 제공업체보다 낮은 비용으로 규모에 맞는 최적화된 성능을 제공합니다."
이러한 핵심 기업 요구에 대응함으로써 Together AI는 오픈 모델로의 더 넓은 전환을 수익성 있고 빠르게 성장하는 인프라 사업으로 바꿔 놓았습니다. 이 업체는 기업 고객에게 모델 선택에 대한 실질적인 선택권과 크게 줄어든 컴퓨팅 비용을 함께 제공합니다. 시장이 성숙함에 따라 북미, 유럽, 사우디아라비아 전역에 계획된 용량을 배치하는 것이, 궁극적으로 Together AI가 기존 클라우드 하이퍼스케일러를 계속 앞설 수 있을지를 결정할 것입니다.
**주요 기술 파트너**
- **NVIDIA:** 시리즈 C 투자자이며 Together의 플릿(fleet)의 핵심으로, GB200 NVL72, HGX B200, GB300 NVL72를 포함한 Blackwell 시스템과 Hopper H100, H200 GPU를 운영합니다. 또한 NVIDIA의 Nemotron 오픈 모델을 호스팅합니다.
- **Humain:** 사우디 AI 기업으로, 250MW의 전력과 12만 개의 칩을 공급하며, 첫 7,000개는 2026년 11월까지, 전량은 2027년에 제공될 예정입니다. 이를 통해 Together는 중동에서 처음으로 대규모 거점을 확보하게 됩니다.
- **Hypertec:** 2028년까지 최대 10만 개의 NVIDIA Blackwell 및 차세대 GPU를 공급하기로 한 두 유럽 파트너 중 하나로, 메릴랜드 등 북미 데이터센터를 넘어 Together의 용량을 확장합니다.
- **5C Group:** Hypertec과 함께 2028년까지 최대 10만 개의 NVIDIA Blackwell 및 차세대 GPU를 투입하는 Together의 유럽 구축 사업을 맡으며, 북미 외 지역의 성장을 위한 데이터센터 용량을 제공합니다.
- **Rumble:** 2026년 6월에 체결된 다년 클라우드 용량 계약으로, NVIDIA HGX B300 시스템 기반의 전용 용량을 Together에 제공하며, 자체 거점 및 기타 파트너를 통해 확보한 컴퓨팅에 더해집니다.