SpaceX在Stargate计划中冲刺10GW AI计算能力，埃隆·马斯克宣布xAI/Colossus基础设施扩张已进入舒适区

同样的1吉瓦AI计算能力，一种商业模式可能只能产生数百亿美元的年收益，而另一种可能超过1000亿美元。这意味着什么？

答案可能是整个AI基础设施行业的完全改变者。

在过去两年中，市场通过GPU数量和训练集群规模来衡量AI军备竞赛。谁拥有更多的H100和GB200，谁操作更大的训练集群，谁就被认为拥有更强大的AI基础设施。但在最新的报告中，SemiAnalysis提出了一个更激进的框架：未来真正重要的将从"你拥有多少GPU"转变为"每兆瓦的能力最终能生产多少可销售的令牌，以及这能产生多少收益"。

根据其代币经济学模型和推理模拟器，在关于前沿模型、GB300集群、真实世界代理编码工作负载和API定价的特定假设下，OpenAI和Anthropic每1吉瓦推理计算的潜在年收益可能超过1000亿美元。相比之下，该报告估计租赁等效GB300集群的年度成本约为120亿美元。这些数字是激进的，且高度依赖于模型需求、代币价格、利用率、延迟要求以及软件和硬件效率——但它们解释了一个日益现实的问题：为什么所有科技巨头突然开始如此激烈地争夺电力？

如果这一预测成立，SpaceX的野心可能远远超出建造火箭、发射卫星和销售Starlink。它的目标是成为世界上最大的AI计算提供商之一。这也意味着，随着提前数月甚至一年确保计算容量开始产生巨大经济价值，AI基础设施的稀缺性正在从芯片竞争转变为电力、工程和时间的工业战争。而将复杂工程压缩到极限正是马斯克最擅长的游戏。

SemiAnalysis报告最重要的贡献是对收益/兆瓦方程的全新计算。对于相同的GB300集群，如果GPU仅通过传统模式租赁，经济价值主要由设备成本、折旧和租赁定价决定。但如果这些GPU最终用于最先进的前沿模型，直接通过API、编码代理、Copilot和类似产品销售推理令牌，每兆瓦的收益能力可能是一个完全不同的数量级。

SemiAnalysis计算，在GB300集群上运行前沿模型API推理时，OpenAI和Anthropic的潜在收益可能超过每兆瓦每年1亿美元——每吉瓦每年超过1000亿美元。这个计算包含模型架构、内存带宽、服务配置、吞吐量、首令牌时间、输入令牌、缓存读取、缓存写入和输出令牌等变量，同时使用来自真实代理编码工作负载的跟踪。

这标志着AI基础设施评估方式的明显转变。在早期，市场比较GPU数量，然后是FLOPS和训练集群规模。在大规模推理时代，更关键的指标可能逐渐变成每秒令牌数、每瓦特令牌数、每美元令牌数、每兆瓦令牌数，最终是收益/兆瓦。

这也是为什么GB300的意义不仅仅是"比GB200更快"。根据报告的模型，在相同的Fable 5推理场景中，GB200 NVL72对应每兆瓦每年约7340万美元的潜在收益，而GB300 NVL72可以将其增加到约9970万美元。这意味着下一代硬件创造的真正价值在于在相同功率预算内生产更多高价值令牌。

NVIDIA本身正在用类似的语言重新定义AI基础设施。今年5月发布的DSX平台已经确立"每兆瓦的令牌性能"作为AI工厂的核心指标之一，从芯片、网络和软件扩展到电力、冷却和数据中心运营。随着推理需求从普通聊天扩展到代理编码、AI工作人员、多代理协作和持续运行的任务，这一转变将变得更加明显。

训练通常有明确定义的阶段和周期，而推理需求更接近"用户数量×代理数量×每任务令牌消耗×运行时间"。一旦代理从"回答问题"转变为"持续工作"，令牌消耗的上限就会扩大。从这个角度看，在AI计算战争下一阶段需要关注的最重要变量可能不再是训练集群能有多大，而是这些计算资源最终能生产多少令牌。