2026年11月17日星期二
AI 基础设施 · 新闻与分析
首页 › 数据中心 › 报道
数据中心 · 报道

NVIDIA 博客阐述了按 MW 和 GW 规模建设的 AI 工厂的经济效益,每个 MW 设施成本约为 6000 万美元,并需要运营商的资本投入。

为超大规模运算商和基础设施运营商在大规模部署数据中心时的决策奠定成本基准。
官方披露Slicast · 2026年10月1日 UTC 13:00 · 美国 · 来源: NVIDIA Blog
重要度 40

# AI工厂经济学与英伟达的优势

AI工厂以兆瓦或吉瓦级别建造,每座兆瓦级工厂的成本大约为6000万美元。运营商在这种规模投入资本,只有在对投资回报率有清晰认识的情况下才会这样做,而这取决于三个关键因素:收入能力(如果全部售出,每年的令牌生产量)、使用寿命(硬件保持经济生产力的时长)和需求(工厂能够服务的工作负载范围)。没有任何单一优势能够完全弥补其他方面的劣势。如果工厂只能销售其产量的一小部分,高收入能力意义不大。如果硬件在一年内就停止产生收入,强劲的需求就无关紧要了。这些因素是相互关联的:能够运行多种工作负载的工厂会找到更深层的需求,在多年内维持收入。

英伟达设计其AI工厂以最大化这三个维度。英伟达系统具有高效率,提供最高的每兆瓦吞吐量和最低的每令牌成本。它们耐久,GPU和系统在发货数年后仍能产生回报。它们还具有互换性,能够运行各类AI模型,涵盖每个阶段和部署环境,以及众多非AI工作负载。

功耗代表了AI工厂经济学的约束条件。因此,每兆瓦每秒的令牌数控制着收入能力,固定功率预算内的额外令牌直接转化为收入。每令牌成本更低意味着利润率更高。

根据SemiAnalysis AgentX数据,英伟达Vera Rubin NVL72系统的每兆瓦吞吐量比英伟达GB300 NVL72高30倍以上,在DeepSeek V4 Pro模型上每百万令牌成本最低可降低45倍。这些收益来自于整个堆栈的极端协同设计——从模型和工作负载,通过软件到计算、网络和内存,全部一起优化。

这些改进提出了两个问题。首先,如果每一代都大幅降低令牌成本,计算需求会缩小吗?不会;成本更低的令牌使更多用例具有经济效益,这些新用例消耗的令牌比效率提升所节省的更多。其次,如果每一代性能远超前一代,那么旧硬件会怎样?

答案在于耐久性。并非每个工作负载都需要最新的系统;正确的选择取决于工作负载的复杂性和形态。2020年发货的英伟达A100 GPU,六年后仍在商业服务中运行,展现了持续的经济价值。CoreWeave最近延长了A100单元的预订至2029年。每个主要运营商都随着时间的推移延长了其服务器的折旧时间表,反映了对更长使用寿命的预期。

一份2026年9月Sprout分析报告《数据中心GPU的生产寿命》记录了主要运营商之间的这一转变。Barkr根据转售价格,将八GPU H100系统的使用寿命定值为五至六年,GB300 NVL72为九至十年。Silicon Data显示,六年前的A100仍值其原成本的四分之一——相比之下,五年折旧时间表会在一年多前就将其标记为无价值。Ornn Data发现市场在五年合同上租赁A100 GPU的价格是一个月合同的80%。微软的英伟达V100舰队运行了8.4年,相比之下会计账面寿命为六年。

CUDA是英伟达GPU编程的软件平台,跨代运行,因此当新架构问世时,现有硬件既不会过时也不会被搁置。持续的软件和内核优化不断改进已安装硬件的功能。同一平台已支持机器学习、深度学习、生成式AI、推理、代理AI和物理AI——每种新的工作负载类型都到来时,硬件已经到位。

互换性——运行多种工作负载的能力——决定了工厂保持有价值和创收的时间。为单一工作负载建造的工厂是赌这项工作会持续。运行一切的工厂即使在工作转变时仍然有用。

英伟达AI工厂运行各类AI模型,开源和专有的,涵盖语言、视觉、生物学、物理学和机器人学。它们跨越从数据处理到预训练、后训练和推理的每个阶段运行。它们部署在超大规模云和AI云、主权计划、企业数据中心和边缘环境中。该基础设施还运行非AI工作负载:数据处理、科学计算、模拟和图形。

这些多样化的工作负载归结为并行数学,这正是英伟达GPU构建的精确任务。拥有数千个核心,单个芯片可以模拟光线、折叠蛋白质和预测下一个令牌。超过1,000个现成的CUDA-X库位于该基础之上,覆盖深度神经网络、计算光刻、量子电路模拟、向量搜索和气候建模等,支持超过1000万开发者。

这使英伟达GPU成为通用加速计算引擎,而不是用于单一工作负载的定制ASIC。通用性不等于通俗性:Tensor Cores和Transformer Engine在可编程架构中嵌入了AI优化硬件,提供了专业化和灵活性。一种架构运行一切,保持高利用率及其回报。

真实世界的例子说明了这种多功能性。礼来在一个1,016-GPU本地集群上运行蛋白质、小分子和基因组学模型,同时为内部团队部署聊天机器人和代理工作流。Pinterest在跨越英伟达Blackwell、Hopper和早期架构的14,000块GPU上进行后训练和部署视觉语言模型。Revolut用英伟达cuDF处理数十亿条交易记录,然后在AI云上训练和部署基础模型。Runway在英伟达Hopper上训练世界模型,并通过云基础设施在Blackwell平台上提供服务。德克萨斯A&M大学在其超级计算机上运行分子模拟和AI药物发现,在26个项目和七个机构中实现95-98%的利用率。

除了AI,达索系统为威奇托州的飞机认证和Lucid Motors的车辆设计提供虚拟孪生模拟。联合利华从数字孪生而非拍摄中构建产品图像,将生产成本降低了一半。

英伟达AI工厂为生产率、耐久性和互换性而设计:更有利可图的令牌、更长的使用寿命和更深层的需求。这种组合最大化了它们的投资回报率。

阅读原文
NVIDIA 博客阐述了按 MW 和 GW 规模建设的 AI 工厂的经济效益,每个 MW… · Slicast