Equinix、NVIDIA与Together AI宣布联合举措,在互联的机房设施与GPU云网络上部署分布式企业推理工作负载。
Equinix正在扩大与NVIDIA的合作,并与Together AI联手推出“Equinix推理交换平台”(Equinix Inference Exchange)。这是一个分布式AI推理项目,旨在帮助企业将工作负载部署在更靠近其数据、用户和应用的位置。
该方案将NVIDIA的企业参考架构、支持200多种开源模型的Together AI推理平台,以及Equinix的全球数据中心和互联基础设施整合在一起。据这三家公司表示,这种模式使企业在AI推理运行位置的选择上拥有更大的灵活性,同时能够满足性能、成本和治理方面的要求。
Equinix首席执行官兼总裁Adaire Fox-Martin表示:“AI正以惊人的速度改变企业技术格局,而企业今天所做的基础设施决策将在未来几年内决定其竞争地位。”Fox-Martin指出,Equinix与NVIDIA的合作为该项目提供了加速计算基础,而Together AI的开放模型方法则为企业扩展AI工作负载提供了更多选择。
NVIDIA全球AI云及基础设施生态系统副总裁Raj Mirpuri补充道,该平台使组织能够将AI推理更贴近其数据、应用和客户。该项目将利用Equinix Fabric连接各大都市区的推理提供商、云平台、网络以及AI提供商,从而有望降低延迟并简化部署复杂性。
推理交换平台将结合Equinix的基础设施与运营能力、NVIDIA的AI基础设施以及Together AI的推理平台。对于需要独占资源的组织,Together AI将同时支持多租户环境和专用的单租户部署。
Together AI首席执行官Vipul Ved Prakash表示,此次合作证明,企业在模型选择和性能之间不必做出妥协。Equinix推理交换平台计划于2027年第一季度正式上线。