EpochAI报告称季度AI推理成本下降47%,由芯片效率提升和制造规模驱动。

随着人工智能竞争加剧，基础设施投资继续呈指数级增长，然而推理成本——即AI模型执行任务时产生的直接计算费用——正以历史上前所未有的速度下降。

据非营利研究机构EpochAI称，自2023年以来，实现等效AI性能的成本已下降约47%/季度。这一下降速率意味着推理成本在一年内下降到原始值的1/13。虽然全球数据中心累计支出预计到2050年将超过30万亿美元——这一规模与美国国债累计发行总额相当——但AI的直接计算成本正在加速下行。

EpochAI将这一成本下降描述为"人类工业史上罕见的创纪录速度"。考虑通货膨胀因素，AI推理成本的下降速率是DNA分析技术的四倍，是计算机处理能力进步的六倍，是锂离子电池改进速度的十八倍。

具体而言，OpenAI在2025年1月发布的模型"o3"在"GPQA Diamond"考试中达到75%准确率需要平均成本30美分/题，该考试测试物理、化学和生物学的博士级专业知识。相比之下，十八个月后发布的"GPT-5.6 Luna"模型在同一考试中达到相同性能仅需0.04美分。EpochAI将这一发展轨迹比作一辆新车价格从5000万韩元突然跌至7万韩元，耗时十八个月。

这一加速源于先进AI模型的发展和蒸馏训练方法的广泛应用，后者使高性能模型能够得到高效复制。这种方法已将成本驱低66%/季度。正如EpochAI所指出的："即使科技巨头投入巨大资本和精力开发尖端模型，通过溢价将技术优势变现的时间窗口也极其有限。"