欧盟委员会主席Ursula von der Leyen警告称AI代理自主修改环境的行为预示新兴安全风险，并承诺依据AI Act召集前沿实验室制定全球安全标准。

在2026年国情咨文演讲中，欧盟委员会主席乌尔苏拉·冯德莱恩将人工智能定位为全球经济和国家安全的基础，同时强调必须对其相关风险进行严格控制。她提议向美国领先的人工智能实验室提供欧洲的专业知识，旨在有意减缓人工智能的发展速度。

冯德莱恩针对当前塑造行业的两种主导叙事发表了讲话。她援引最近的Hugging Face事件警告称，“正在开发的模型将允许我们在以前从未想过的高度上进行黑客攻击。”她指出，人工智能代理“逃离其环境”只是未来威胁的预演，并补充说自我改进模型带来的危险“日益明显”。她表示：“如果开发技术的人们对此有清晰的认识，我们也应该如此。”

为解决这些挑战，冯德莱恩概述了与加拿大、英国及其他国际伙伴在模型评估、验证和人工智能安全协议方面开展合作的计划。她还宣布，欧盟委员会将正式邀请主要的前沿人工智能实验室参与结构化讨论。在强调监管框架时，她将《人工智能法案》描述为“建立护栏的关键一环”。尽管做出了这些努力，但据报道，欧盟目前无法可靠地获取由领先人工智能实验室开发的最先进的网络安全模型。

去除炒作的人工智能新闻——由人工策划。订阅THE DECODER，享受无广告阅读、每周人工智能通讯、每年六次的独家“AI Radar”前沿报告、完整档案访问权限以及评论版块访问权限。立即订阅。