Together AI的token量激增至400万亿，受廉价替代AI计算需求加速推动，相比hyperscaler云服务商定价更具竞争力。

Together AI 现在每月处理超过 400 万亿个推理令牌——比一年前的 300 亿增长了大约 13,000 倍。这个云推理平台已经悄然成为全球增速最快的 AI 基础设施公司之一，推动力是一个简单的理念：企业希望使用强大的 AI 模型，但不愿支付专有 API 那令人瞠目的成本。

创始人 Vipul Ved Prakash 用这样的增长轨迹来描述这家公司，足以让大多数 SaaS 创始人嫉妒得掉泪。每日令牌处理量从约 10 亿增至超过 1 万亿，增长超过 1,000 倍。据报道，该公司在 2026 年初达到的年化收入估计约为 10 亿美元——这不是估值数字或融资里程碑，而是实际收入。这种指标区分了真正获得市场认可的公司与靠风险投资运营的公司。

经济学逻辑很简单。在 OpenAI 或 Anthropic 的专有前沿模型上运行推理需要按令牌付费，在企业规模下成本会迅速上升。相比之下，开源模型允许组织以成本的一小部分运行类似的工作负载，同时还有自定义和微调的额外好处。Together AI 已将自己定位在这一转变的中心，使开源模型的部署和扩展尽可能顺畅。该平台吸引了成本意识强的初创公司和大型企业，后者越来越担心供应商锁定。

2026 年 6 月 3 日，Together AI 成为 Vector Core Compute 新推理云的首个商业客户，该平台基于专为高吞吐量 AI 工作负载设计的混合 CPU/GPU/RDU 架构构建。这一合作反映了一个更广泛的市场现实：推理而非训练正在成为主导的计算工作负载。训练大型语言模型是一次性或周期性的费用。推理——即向用户实际提供模型——持续运行并随着应用扩展。

4 万亿令牌的里程碑表明 AI 推理市场正在进入新阶段，在这一阶段，规模和成本效率比模型新颖性更重要。开源采用威胁了专有模型提供商的定价能力，因为企业现在可以在 Together AI 等平台上以显著更低的成本运行相当的模型。然而，风险在于集中度。如果少数开源模型占据主导地位——Meta 的 Llama 系列是明显的例子——推理层可能会迅速商品化。Vector Core Compute 的合作表明 Together AI 已经在对冲这种风险，在市场变得拥挤之前锁定下一代硬件优势。