DeepInfra在多伦多开设首个国际数据中心，配备1000多个NVIDIA Blackwell B300 GPU

DeepInfra 是一个为高吞吐量 AI 推理而专门打造的云平台，该公司于 2026 年 7 月 8 日宣布在多伦多开设新的数据中心。1.7 MW 的设施是该公司的第九个数据中心位置，也是其首个美国外的数据中心。

根据公告中引用的麦肯锡公司的研究，到 2030 年，AI 推理预计将占数据中心总需求的 40% 以上，年复合增长率约为 35%。这一转变反映了企业从模型训练向生产规模部署的转变，受到实时应用、智能代理系统和高容量 API 流量的驱动。由此产生的 GPU 可用性压力加快了对分布式、高密度计算集群的需求，这些集群针对低延迟推理进行了优化。

多伦多设施将搭载超过 1,000 块英伟达 Blackwell B300 GPU，大幅扩展 DeepInfra 的全球推理容量，增强其在北美和国际市场提供低延迟、成本高效的 AI 推理服务的能力。首席执行官兼联合创始人 Nikola Borisov 表示："企业正以前所未有的速度从实验阶段转向生产阶段，这种转变需要既可扩展又全球分布的基础设施。这个多伦多集群是我们扩大美国以外容量的基础性一步，确保客户能够在更靠近用户和数据所在地的地方运行 AI 工作负载。"

多伦多的部署紧随 DeepInfra 的 B 轮融资 107 百万美元之后，是该公司在战略位置的区域扩展推理容量的持续战略的一部分，随着对 GPU 密集型工作负载的需求持续增长，还有其他国际部署正在评估中。DeepInfra 成立于 2022 年，运营自己的 GPU 基础设施，支持超过 200 个开源模型，每周处理近 5 万亿个令牌。