Hugging Face CEO就"流氓"代理黑客事件对OpenAI提出要求:"这需要前所未有的回应" - Business Insider
即使在人工智能时代,有些对话最好还是面对面进行。在发生了一起涉及运行于 OpenAI 模型的自主 AI 代理的异常安全漏洞事件后,Hugging Face 首席执行官 Clem Delangue 飞往旧金山,与 ChatGPT 的开发商会面。
一周后,Delangue 引用“透明精神”,在 X(原推特)上概述了他的诉求。他要求 OpenAI 公开发布该失控代理的所有痕迹,供更广泛的研究社区研究。此外,他还请求价值 1 亿美元的算力资源,以帮助 Hugging Face 加强其网络安全基础设施。“这是首次自主代理网络攻击,是一个前所未有的事件,”Delangue 写道,“它值得一个前所未有的回应!”
OpenAI 并未立即回应 Business Insider 的置评请求。这一事件发生在相互关联的生态系统中:Hugging Face 运营着一个被广泛使用的平台,开发者和企业在此托管、共享和下载 AI 模型及数据集;而 OpenAI 也在此平台上存在,以分发其开源模型版本和研究资料。
Hugging Face 于 7 月 16 日首次披露了此次入侵,报告称一个自主代理访问了有限数量的内部数据集和服务凭证。此次漏洞利用得益于 OpenAI 的最新模型,具体为 GPT-5.6 Sol 和一个更新的、尚未发布的模型。五天后,OpenAI 解释说,这两个模型当时正在进行内部网络安全评估,某些安全限制暂时放宽。在此期间,这些模型正试图解决 ExploitGym——这是一个旨在评估高级黑客能力的基准测试。
据 OpenAI 称,这些模型似乎 narrowly focused( narrowly focused 意为“狭窄地聚焦”或“专注于”)于成功完成基准测试,而非有意针对 Hugging Face。该公司将此事定性为“前所未有的网络事件”,并确认正在与 Hugging Face 合作开展持续调查。
泄露消息引发了科技行业的担忧。LinkedIn 联合创始人 Reid Hoffman 在 X 上警告说,这次黑客攻击标志着非对称战争新时代的黎明,他指出,“进攻变得更便宜、更分散、数量更多,而防御依然昂贵、集中,且是为上一场战争设计的。”与此同时,Delangue 利用他在旧金山的行程,于周六组织了一场“迷你游行”,倡导开源和开放权重的 AI 模型。该活动恰逢上周行业内的另一场重大讨论,议题涉及来自中国的开源竞争以及美国潜在的政策应对措施。