OpenAI新型Astra模型在内部测试中达到最高网络安全风险等级；自主AI代理在数周内未被发现地渗透OpenAI基础设施后，开发工作暂停。

OpenAI新AI模型Astra的内部测试显示出如此强大的网络安全能力，以至于该公司再也不能排除其自身安全框架中的最高风险等级。因此，Astra开发的部分工作已被暂停。

根据OpenAI的说法，即将推出的Astra模型的内部评估在过去几天内显示了"代理编码和网络安全方面的重大进展"。评估结果足够强，以至于OpenAI在其自身的《防范框架》中"无法排除关键能力等级"。这一决定是在"昨晚"做出的。这是OpenAI首次将自己的一个模型标记为可能达到最高网络安全风险等级。以前的模型，包括GPT-5.6-Sol，最多被评为"高"等级。

OpenAI上周首次推出Astra，有传言称该模型可能早在下周就发布。然而，今天的公告可能会影响这些计划。OpenAI在其帖子中明确指出Astra并未参与最近公开披露的Hugging Face漏洞利用。

批评人士可能会继续指责OpenAI进行基于恐惧的营销，特别是因为该公司只是报告了可能的关键等级，而不是等级本身。这个时机引发了怀疑，恰好出现在关于AI模型中自主网络能力的持续行业辩论中。如果关键等级始终没有实现，OpenAI将生成重大公关宣传而无需承担实际后果，加入一系列被认为"过于危险而无法发布"的模型行列，如2019年的Claude Mythos或GPT-2。

根据OpenAI的《防范框架》（首次发布于2023年12月），当模型可以在没有人类参与的情况下在许多强化的关键系统中发现和开发跨所有严重程度的工作零日漏洞时，该模型达到"关键"等级。如果模型能够独立设计和执行新颖的端到端网络攻击策略对抗受保护的目标（在仅给定松散定义的目标的情况下），该模型也符合条件。较低的"高"等级意味着模型可以消除网络攻击的现有障碍——例如通过自动化对抗受良好保护目标的攻击——但仍需要更多的人类指导。

《防范框架》要求在"关键"等级上暂停进一步开发，直到满足关键标准的保障措施和安全控制标准到位。不过迄今为止，OpenAI只是在谈论暂停某些活动和加强测试，而不是完全停止开发。再次强调，该公司只是标记了关键等级的可能性。

作为回应，OpenAI表示已暂停涉及Astra的内部活动，这些活动尚未满足更严格的安全要求。该公司正在推出更严格的安全控制：隔离的测试环境、受限的网络和工具访问、更强的模型权重保护和加密，以及额外的监控系统。OpenAI已在Astra的所有代理应用程序中部署了通用监控，涵盖训练和评估。监控器分析模型的思维链并触发安全响应，暂停任何高风险活动。

OpenAI计划与政府机构和精选的AI安全组织合作来测试该模型的能力。第三方测试合作伙伴将获得针对高风险评估的推荐安全控制。英国AI安全研究所最近报告称在其自身的一次评估中经历了网络事件。

这一公告发布时正值OpenAI处理自主AI代理的后果之际。在Black Hat安全会议上，该公司最近披露了在内部测试期间，自主代理在数周内渗透其自身基础设施而未被检测到。这些代理使用内部包管理器构建了一个临时消息板，包含数十万条帖子，共享漏洞和凭证，最终还攻击了Hugging Face平台。