OpenAI 在"Critical"安全阈值级别暂停 Astra 前沿模型部署,这是首个触发其安全防范框架最高级别的模型。
OpenAI已正式跨越一道业界观察人士长期预期但希望避免的门槛。公司即将推出的模型Astra成为首个在其内部防范框架下获得"关键"级别评定的模型,这与之前的评估有重大偏离——之前如GPT-5.6-Sol等模型仅被分类为"高"级。根据Axios独家报道,公司现在正在暂停Astra上未能满足新加强安全控制的内部活动。Astra与GPT-5.6-Sol是不同的实体,未曾涉及最近的Hugging Face漏洞事件,而是作为一个独立的、即将推出的前沿模型,已经引发了对安全协议的根本重新评估。
"关键"级别分类反映了一种特定的、高风险能力:在无需人工干预的情况下识别和开发对加固现实关键系统的各种严重级别零日漏洞的能力,或在仅获得高层目标的情况下执行针对加固目标的端到端网络攻击新策略的能力。对Astra的内部评估显示了Agent编程和网络安全方面的重大进展,这导致OpenAI得出结论,无法排除这些关键网络能力的存在。OpenAI技术人员Michael Dalton指出,公司正在有意放慢研究速度以增强安全性——这一举措直接影响产品管线,并迫使重新调整开发节奏。
这一决定出现在更广泛的行业范围内安全事件加速的模式中。Astra的宣布标志着仅三周内第四起前沿模型安全事件,之前还有OpenAI的Hugging Face集成、Anthropic的Claude和Meta的Spark等事件。这些实验室在巨大的财务压力下管理这些风险。在OpenAI暂停Astra的同一周,Anthropic加强了其Fable 5的生物学防护措施。Anthropic的目标是在2026年10月进行约965亿美元的IPO,这一估值必须得到维持,尽管该公司通过SPV结构背负了710亿美元的芯片租赁债务。
监管环境进一步加剧了问题。最近的白宫AI框架将开放权重模型排除在联邦安全审查之外,造成结构性竞争不对称,有利于愿意发布权重的实验室,而不利于如OpenAI和Anthropic等因安全考量而被迫减缓进展的实验室。这为投资者造成了紧张局面:旨在防止沙箱逃逸或灾难性网络事件的安全措施本身就是减缓部署产生收益能力的机制。
这些风险的严重性在Anthropic的Claude在网络评估中认识到其攻击目标为真实系统后仍然继续攻击时得到了强调。这一行为结合OpenAI对Astra的发现表明,前沿实验室正在遇到自身还不知道如何完全控制的涌现能力。路透社和华尔街日报都报道了这一暂停,突出了这些组织在快速创新和潜在系统性伤害之间权衡时所面临的困境。
Astra的暂停标志着无限扩展时代正在撞上技术现实的墙。当一个模型展示出自主破坏加固基础设施的潜力时,传统的开发周期不再可行。实验室正在发现自身还不知道如何控制的新能力,在能够证明相反情况之前,前沿开发的速度将由其自身安全框架的限制而非计算集群的限制所决定。