IBM与Together AI签订2.4亿美元多年合作协议，联合构建大规模Nvidia驱动的AI推理集群。

由于电力、数据中心容量和其他供应链制约，AI基础设施供应紧张，服务提供商将租用所有可获得的计算资源，即使这意味着需要与竞争性云提供商合作。

Together AI是最新的例子。本周，这家服务提供商宣布了一项2.4亿美元的交易，将其开源权重推理平台部署在IBM Cloud托管的一个"大规模" Nvidia GPU集群上。IBM的声明表示："Together AI选择IBM和Nvidia是因为他们创新的产品路线图以及能够以快速AI扩展所需的速度交付GPU容量并实现最低令牌成本的能力。"换句话说就是：Together AI选择IBM是因为蓝色巨人在需要的时候拥有所需的容量。

Together AI在AI推理生态系统中处于顶端位置。其业务模式主要围绕从云或新云提供商那里租用计算资源展开，许多提供商本身从数据中心运营商那里租赁场地和容量，并运营竞争性服务。最近，该公司已开始在马里兰州、孟菲斯和瑞典的数据中心部署GPU计算，但与大多数AI服务提供商一样，其主要价值主张仍然是让用户更容易地为推理、微调和训练等应用消费硬件。对于推理而言，这基本上就是提供一个OpenAI兼容的API端点。

该服务提供商对API端点运行的硬件并不挑剔，只要价格性能有利即可。例如，Together AI将在SambaNova的异构计算平台上部署服务，该平台由与Intel的合作构建，预填充处理采用Nvidia GPU。这些系统在Vector Core Compute的新AI数据中心于今年早些时候上线。

在此案例中，Together AI获得的是Nvidia B300，无疑是因为这是IBM能提供的产品。HGX B300平台在2025年初发布，并非Nvidia最强大的产品。与CEO詹森·黄喜欢炫耀的72 GPU机架系统不同，HGX平台设计更为常规，可以部署在传统风冷数据中心。这些14-15 kW的机箱各配备8个B300 GPU，通过机箱内部的NVLink和机箱之间的Nvidia Spectrum-X以太网架构互连。IBM表示，这是其首次在推理应用上大规模使用B300的部署。

计算容量预计将在2027年第一季度上线。