NVIDIA 博客阐述了按 MW 和 GW 规模建设的 AI 工厂的经济效益，每个 MW 设施成本约为 6000 万美元，并需要运营商的资本投入。

AI工厂是以兆瓦甚至以吉瓦为单位建造的。每个兆瓦级工厂的成本大约为6000万美元,AI工厂运营商只有在对投资回报有明确认识的情况下才会以这样的规模投入资本。三个关键因素决定了AI工厂的回报:

赚取能力:工厂在一年内若能售出所有能产生的令牌,就能赚取多少收入。

使用寿命:其AI硬件能够持续赚取收入多长时间。

需求:对这些令牌的需求有多大。

一个方面的优势无法完全抵消另一个方面的劣势。如果工厂只能售出其能产生的一部分,高赚取能力就没什么用处。如果工厂在仅一年后就停止满负荷生产,高需求也就无足轻重了。这三个因素也不是相互独立的。能够运行更多类型工作负载的工厂会发现更多需求,使其能够年复一年地持续赚取收入。

NVIDIA AI工厂的设计旨在最大化这三个因素。它们是:

高效:以每兆瓦计交付最高吞吐量和最低的单位令牌成本,从而最大化其赚取能力。

耐久:NVIDIA GPU和系统在发货后多年仍能持续赚取收入,延长了使用寿命。

多功能:它们能够运行每种类型的AI——在每个阶段和每个地方——以及许多不涉及AI的工作负载,这加深并拓宽了它们可以服务的需求。

NVIDIA平台具有高效、耐久和多功能的特点,从而最大化了AI工厂的回报。

跨整个堆栈的工程协同设计最大化了AI工厂的吞吐量,持续的软件优化使已安装的硬件在发货后多年仍能保持高效。NVIDIA CUDA-X库让工厂能够运行任何加速工作负载。标准化的架构使所有这些都能被任何运营商利用,可通过经过验证的参考设计进行部署。

高效:每兆瓦最高令牌数和最低令牌成本

电力是AI工厂的制约因素。这使得每兆瓦每秒令牌数成为决定赚取能力的关键数字。在固定功率范围内令牌越多意味着收入越高。每单位令牌的成本越低意味着利润越高。

SemiAnalysis AgentX数据显示,NVIDIA Vera Rubin NVL72系统每兆瓦吞吐量比NVIDIA GB300 NVL72高超过30倍,在DeepSeek V4 Pro模型上每百万令牌成本低至45倍。这样的收益来自于跨整个堆栈的极端协同设计:从模型和工作负载,通过软件到计算、网络和内存,所有这些都经过优化协同设计。

SemiAnalysis AgentX关于NVIDIA GB300 NVL72在GLM 5.3上的性能的分析。

随之而来的是两个问题。如果每一代都使令牌成本大幅下降,计算需求是否会萎缩?

不会,需求会扩大。

更便宜的令牌使更多使用案例在经济上可行,这些使用案例消耗的令牌比节省的效率所对应的令牌还要多。

第二个问题是关于耐久性的。如果每一代都比上一代好得多,那么旧的一代会怎样?

耐久:现有的硬件基础继续赚取收入

并非每种工作负载都需要最新的系统。合适的选择取决于工作负载的复杂性和形状,这就是为什么上一代产品在下一代产品推出后仍然能够继续赚取收入。

NVIDIA A100 GPU于2020年推出,六年后仍在商业服务中,证明了其持续的经济价值;CoreWeave最近将2020年首次推出的产品的预订期延长至2029年。多年来,每个主要运营商都延长了其服务器的折旧期,这是对硬件何时停止赚取收入的估计,而且这个估计不断延后。2026年9月Sprout的分析《数据中心GPU的生产寿命》跟踪了这一期限如何在每个主要运营商中发生了变化。

每个主要运营商都延长了服务器的使用寿命。来源:Sprout《数据中心GPU的生产寿命》,2026年9月。数据基于由Sprout汇编的公司披露和新闻报道。会计寿命是物理寿命的保守代理——微软的NVIDIA V100集群运行了8.4年,而账面寿命为6年。

根据这些系统的转售价格,Barkr将八GPU H100系统的使用寿命设定为5至6年,GB300 NVL72的使用寿命为9至10年。Silicon Data显示,一个六年前的A100 GPU仍然值其成本的四分之一,而一年多前五年折旧期限将其定为零。Ornn Data发现市场在五年合约中租赁A100 GPU的支付价格是一个月合约的80%。

CUDA是NVIDIA GPU的编程软件平台,跨越各代产品运行,因此当新架构推出时,运营商已拥有的任何东西都不会被搁置。持续的软件和内核优化不断改进现有硬件的性能。

同一个平台运行机器学习、深度学习、生成式AI、推理、智能AI和物理AI。每一种新的工作负载都是在已经安装的硬件上运行的。

这就是多功能性。一个系统能够处理的工作类型越多,它就能更长时间地继续找到工作。

多功能:每种类型的AI,每个阶段,每个地点

为一种工作而建造的工厂是对工作保持不变的赌注。能够运行所有工作的工厂即使在工作改变时也能保持有用和创收的特性。

NVIDIA AI工厂运行每种类型的AI模型——开源和专有的——跨语言、视觉、生物学、物理学和机器人学。它们运行每个阶段,从数据处理到预训练、后训练和推理。它们在每个地点运行,从超大规模和AI云到主权项目、企业数据中心和边缘。

NVIDIA平台是多功能的,可以在每个阶段和每个地点运行每种类型的AI工作负载。

并非所有这些都是关于构建和运行AI模型。同样的基础设施还运行数据处理、科学计算、模拟、图形处理等。