IBM与Together AI签署了一项为期多年、价值2.4亿美元的协议，以部署大规模英伟达B300 AI推理集群。

IBM已与Together AI签署一项为期多年、价值2.4亿美元的合作协议，将在IBM Cloud上部署一个大规模人工智能推理集群，该集群将采用NVIDIA HGX B300系统。该集群计划于2027年第一季度投入使用，将使Together AI能够向企业客户提供开源模型推理服务。据IBM称，此次部署标志着IBM Cloud上首个基于NVIDIA HGX B300系统和NVIDIA Spectrum-X以太网网络构建的专用大规模推理集群。NVIDIA表示，该基础设施的设计旨在提供比上一代高出多达30倍的人工智能工厂产出能力。

Together AI计划利用这一新集群提升推理性能并优化代币经济学（token economics），以支持企业在将更大规模的人工智能工作负载投入生产环境时的需求。该公司专注于开源人工智能，运营着一个涵盖推理、训练、微调及智能体工作流的AI原生云平台。近期，Together AI以83亿美元的估值完成了8亿美元C轮融资。该公司报告称，其推理平台目前每月处理约400万亿个代币（tokens），凸显了生产环境中对开源模型日益增长的需求。Together AI选择IBM和NVIDIA作为基础设施合作伙伴，是基于其产品路线图以及提供必要GPU资源以支持迅速扩展的人工智能工作负载的能力。

此次合作旨在通过IBM的企业云基础设施，为开发者和企业提供访问大规模开源推理服务的渠道。IBM将此次伙伴关系定位为应对激增的智能体人工智能（agentic AI）需求以及日益计算密集型企业应用程序的关键举措。底层架构将整合IBM Cloud、NVIDIA GPU系统、Spectrum-X网络以及Together AI的推理软件。对IBM而言，这项协议也加深了其与NVIDIA在人工智能基础设施和软件领域的现有合作关系，建立在此前在GPU原生数据分析、非结构化数据提取、混合云和本地基础设施以及企业人工智能部署咨询等方面的合作基础之上。最终，此次部署旨在为Together AI配备能够支持实时人工智能服务的基础设施，同时扩大其在大型企业中的影响力。

“企业希望获得最佳前沿模型的性能，却不愿承担闭源模型的高昂价格标签，而这只有在底层基础设施具备大规模高速且可靠运行时才能实现。与IBM和NVIDIA携手合作为我们奠定了这一基础。该集群使我们能够更快、更广泛地将生产级推理服务带给更多公司，这也是我们推动开源人工智能成为企业首选的重要一步。”

“企业正竞相大规模采用智能体人工智能，以驱动切实的业务成果。IBM和NVIDIA正在提供可扩展、经济实惠且符合企业标准的人工智能基础设施，这将帮助Together AI加速下一代人工智能基础设施的创新。”

——Alan Peacock，IBM Cloud总经理

“人工智能工厂正变得像电力和电信一样，成为不可或缺的企业基础设施，将算力和数据转化为智能。借助IBM Cloud上的NVIDIA HGX B300系统和NVIDIA Spectrum-X以太网网络，IBM和Together AI将提供一个加速计算平台，帮助企业部署满足实时人工智能服务所需性能、效率和规模要求的开源人工智能。”

——Dion Harris，NVIDIA高性能计算与人工智能基础设施解决方案高级总监