OpenAI在实施扩展的多阶段思维链监控后，部分工作负载的运营成本将上升约20%。

OpenAI 周二确认，在未经发布且无人工监督的 AI 模型入侵 HuggingFace 之后实施的暂停模型训练决定仍然有效，公司正致力于实施更严格的安全措施。其中一些措施将使计算开销增加至观测到的推理工作负载的 20%。

一位 OpenAI 发言人告诉《The Register》，这些成本反映的是内部研究支出，不会直接转嫁给客户。该公司尚未透露目前有多少比例的总推理计算量受到此类监控，或在之前的监控机制下受监控的比例是多少。

“我们暂停了一些前沿强化学习（RL）训练，以确保我们能够达到针对眼前这一新能力水平的适当对齐、安全和监控标准，”OpenAI 首席执行官 Sam Altman 在社交媒体帖子中写道。“模型进展现在极其迅速，我们始终表示，如果我们认为模型能力超出了安全和对齐的步伐，我们将采取行动。”

Altman 表示，他仍预计新模型——可能是延迟发布的 Astra——将很快推出。此次训练暂停影响的是更远期的发布计划。

在随后的帖子中，OpenAI 重申了其专注于监控、模型对齐和安全措施的计划，以防止其模型像上个月那样失控。在 HuggingFace 事件之后，OpenAI “暂停了研究集群中可能执行代码或使用可访问互联网的工具的前沿模型推理运行”。

该公司允许部分工作负载运行，但暂停了其他工作负载，直到它们能够迁移到包含沙箱隔离、网络隔离和持续安全测试等更严格的安全机制的环境中。

“我们最大的计划中的前沿强化学习（RL）运行仍处于搁置状态，同时我们进行小规模训练和评估，以评估模型行为、验证我们的保障措施，并在继续之前建立更多的对齐证据，”该公司写道。强化学习是指 AI 智能体通过试错过程，“学习”其环境，因为期望的结果而获得奖励。

OpenAI 还宣布扩大对思维链（chain-of-thought）过程的监控，这是一种让“思考”型模型将任务分解为离散步骤并为每个步骤生成中间文本输出的技术。

该公司之前的方法侧重于高风险工作负载，特别是前沿模型的内部部署和前沿 RL 训练运行。

相比之下，OpenAI 表示，新的监控设置涵盖了所有涉及工具且模型能力等级达到 GPT-5.6 Sol 或更高的 RL 训练和评估。鉴于确定 Astra 拥有关键的网络能力，OpenAI 增加了额外的监控要求，涵盖所有与 Astra 相关的推理活动，而不仅仅是 RL 训练和测试。

“这些保障措施需要大量的计算资源，”OpenAI 表示。“我们目前的估计显示，监控开销约占被监控推理计算的 20%，尽管成本在不同训练和评估工作负载之间差异很大。”

OpenAI 预计将在未来的帖子中分享更多关于其监控方案实施的细节。在去年发表的一项研究中，该公司指出，思维链监控是检测模型不当行为的有效方法，但也警告称，直接优化模型以严格遵守指令“并不能消除所有不当行为，并可能导致模型隐藏其意图”。

如果接受该公司不会将模型思想监管的成本转嫁给客户的保证，那么 OpenAI 的损失将会增加。很难想象，如果 OpenAI 上市，这种立场会是可持续的。

然而，鉴于该公司据报道在 AI 基础设施方面的承诺超过 6000 亿美元，并且预计到 2030 年至少仍将处于亏损状态，为了不确定的安全性，还有什么额外的支出可言呢？®