Together AI完成8亿美元C轮融资,估值达83亿美元,由阿美风投领投。
Together AI Inc.是一个云平台运营商,专门优化用于运行开源人工智能模型。该公司在由沙特阿拉伯阿美能源公司风投部门领投的C轮融资中筹集了8亿美元。Nvidia公司、Vista Equity Partners、General Catalyst以及其他几家机构投资者也参与了此轮融资。此轮融资对Together AI的估值为83亿美元。
该公司平台包括一项无服务器推理服务,使开发者能够运行开源AI模型,而无需配置图形卡或网络设备。Together AI声称其无服务器环境的性能约为最快替代方案的两倍。
除无服务器推理外,Together AI还提供三项额外服务。其中两项采用专用基础设施,适用于需要更高可靠性保证和定制选项的客户。第三项服务"批量推理"将成本效率置于速度之上,对于不需要对用户提示进行实时响应的模型可实现高达50%的价格降低。
该平台运行在Nvidia芯片和名为ATLAS的专有软件引擎上。其核心是一项称为推测解码的机器学习技术,它通过将一个AI模型与第二个轻量级神经网络相结合来加速客户工作负载。当用户输入提示词时,轻量级算法迅速生成草稿回答,主模型随后验证、必要时进行修正,并将其交付给用户——这个过程明显快于仅由主模型生成输出。
通常,固定配置的轻量级算法会随时间推移而失去准确性。根据Together AI的说法,其ATLAS技术通过自动适应不断演变的用户需求来解决这一限制。该公司声称其软件可将特定推理工作负载的速度提升高达400%。
该平台还使客户能够使用包含数千块图形卡的训练集群来微调开源模型。开发者可以通过相对直接的Kubernetes或提供更大定制化能力的Slurm来管理这些集群。Together AI的训练集群包含软件,可自动检测和修复图形卡故障,否则这些故障可能会对训练工作流程引入错误。
该公司披露,其第二季度年度预订额超过11.5亿美元。其平台被数千个组织使用,包括LG公司的AI研究实验室、Cohere公司和Mozilla基金会。
Together AI计划将新融资投向扩展基础设施容量。该公司目标是在未来五年内将其公共云容量增加50倍,并打算增强其训练和推理功能。