2026年10月26日星期一
AI 基础设施 · 新闻与分析
首页 › 芯片与硬件 › 报道
芯片与硬件 · 报道

AI推理实际成本分析揭示补贴、专用芯片和黄金时代的可持续性问题。

推理经济学显示云运营商利润压力;纯软件模式在大规模上无补贴或专有硬件情况下无利可图。
行业媒体Slicast · 2026年6月28日 UTC 11:52 · 美国 · 来源: quasa.io
重要度 70

一家熟悉的公司最近为某客户审计了一个庞大的遗留代码库。上一次,包括大量使用AI编码助手在内的整个工作流程,在200美元/月的订阅内顺利完成。这一次,采用使用量定价模式(如GitHub Copilot按令牌计费或类似的转变),同样的工作预计花费约2000美元。什么变了?不是代码,而是模型背后的经济学。

这不是孤立的个案。这是一扇窗口,让我们看到当前AI领域最重要(也最少被讨论)的动态之一:消费者和重度用户实际支付的费用与规模推理的真实成本之间的巨大鸿沟。重度用户获得了巨额补贴,而这种模式的可持续性在公司谋求IPO和盈利时受到严重质疑。

SemiAnalysis最近购买了Anthropic(Claude)和OpenAI(ChatGPT)的所有主要订阅层级,并用长期代码编写和代理任务对其进行了压力测试,直到达到每周限制。这些不是理论数字,而是来自真实、持续的使用,模拟专业开发人员的实际工作流程。大多数休闲用户永远不会接近这些限制,这就是为什么经济学上平均仍能维持(就像自助餐中轻度饮食者补贴重度饮食者)。但对于重度用户——正是推动实际生产率提升的个人和公司——有效折扣是巨大的。假设API使用的毛利率约75%(作为分析中的基准),高利用率下的订阅毛利率看起来远差得多。实验室实际上是在向用户免费提供计算资源以留住他们、培养使用习惯,同时让技术逐步成熟。

推理——运行训练模型以生成输出的过程——是AI中的主导持续成本,在生产环境中通常占GPU总支出的55-80%。总体而言,等效智能的单位令牌成本已大幅下降(在某些情况下便宜了数百倍),但实验室的绝对支出仍然巨大,因为使用量在爆炸式增长。像OpenAI这样的公司已经报告了巨额推理相关损失,并预计即使收入增长,仍将持续大幅烧钱(例如每年数十亿美元)。

消费者订阅受到了大量补贴,尤其是对重度用户。这是一个有意的战略,目的是获取用户、收集数据和反馈、维持心智占有。它由巨额风险投资和战略投资资助(Microsoft对OpenAI,Amazon和Google对Anthropic等)。相比之下,企业和API客户面临更接近成本价或盈利性的定价。大额承诺通常会获得批量折扣、预留容量或专用基础设施,但他们的支付更接近计算的真实边际成本。这是实验室的真实利润所在。

数学解释了这种紧张关系:如果一个实验室在API令牌上拥有约75%的毛利率,最大化的订阅可能会转化为深度负利润。所有订户的平均利用率目前使总体业务得以维持。但OpenAI和Anthropic都据报正为公开市场首次亮相做准备。投资者最终要求利润,而不仅仅是增长和市场份额。我们已经看到了早期迹象:工具(如Copilot)中转向使用量定价、配额调整和功能门控实验。重度用户的"免费"或超便宜智能时代可能已经达到峰值。

也就是说,由于更好的芯片、软件优化和规模效应,推理成本下降的潜在趋势仍在继续。实验室可以随着时间推移以更低的价格盈利地提供越来越强大的模型——只是不一定以目前对无限重度使用的补贴水平。

这种局面呼应了历史上基础设施繁荣期的情形。在铁路扩张和点com光纤建设期间,公司过度扩张,许多破产,投资者损失巨资。但社会最终获得了经久耐用、具有变革性的基础设施,推动了数十年的增长。在AI领域,我们正处于类似的阶段,大规模资本涌入芯片、数据中心和模型。提供商之间可能会出现整合、失败和洗牌。但"基础设施"(计算能力、高效模型和工具)将保留——并持续改进。

开源模型、自托管方案和专门的推理提供商已经为许多工作负载提供了更便宜的替代方案。繁重专业使用的定价格局可能不会完全保持今天的样子。预期会出现更多分层:慷慨但有限额的消费者计划、更高价格的高级"无限"选项,以及强大的企业产品。最先进的前沿模型对于休闲和重度个人用户可能相对更昂贵或受限,而通过效率提升和竞争(包括来自开源模型和非西方提供商),整体智能能力将变得更便宜和更易获得。

重度用户和公司将通过优化工作流程(缓存、为简单任务使用较小模型、代理编排、在适当的地方自托管)或为保证访问支付更多费用来适应。强密集编码和代理工作的200美元"自助式无限"黄金时代可能只是过渡阶段。

我们正生活在一个非凡的补贴智能时代,这加速了实验和采用。它不会以目前的形式永远持续,但正在建设的基础设施将为多年的生产率增长提供支撑。问题不在于AI是否变得更昂贵——而在于成本相对于能力下降的速度有多快,以及谁最终获得价值。如果定价得当并明智使用,这项技术仍然代表人类历史上最大的杠杆机会之一。这些补贴为我们争取了时间来理解这一切。如今,真实的经济学逐渐浮出水面。

阅读原文
AI推理实际成本分析揭示补贴、专用芯片和黄金时代的可持续性问题。 · Slicast