外国对AI供应商的控制作为董事会级风险提出,新的ASD AI主权指导。

澳大利亚信号局和澳大利亚公司董事协会发布了新的指导意见,建议董事会将对外国AI供应商的依赖视为本身就构成的网络风险。该建议出于对AI主权的更广泛关切,特别是在美国政府于2025年6月对Anthropic的Mythos级模型下达访问限制令之后。

该指导意见为董事会确定了四项关键行动项目。首先,组织应评估依赖外国控制的AI供应商所面临的风险。目前,几乎所有领先的前沿AI模型开发商总部都设在美国,中国是唯一另一个大规模开发具有竞争力模型的国家。除这两个大国外,法国的Mistral代表了为数不多的可信独立替代方案之一。

其次,董事会必须审查前沿AI模型如何可能影响其组织的安全态势,包括对AI驱动威胁的暴露。第三,他们应该发展应对代理AI驱动威胁环境的能力。第四,组织需要改进治理、程序和能力,以管理内部AI技术的使用。

该指导意见强调,前沿模型加快了攻击速度,将漏洞发现和利用窗口从数天压缩至数小时。这种压缩降低了恶意行为人的技术门槛,使AI系统能够将多个低严重性漏洞链接成高影响力的漏洞利用。模型现在可以在极少或完全没有人工监督的情况下进行恶意活动,这使得访问控制变得至关重要。

总理安东尼·阿尔巴内塞也表达了对这些主权问题的关注,在7月15日于悉尼大学表示:"全球2020年代不稳定局势所教会我们的必然教训是,如果我们总是依赖他人、依赖其他地方,我们就总会处于脆弱状态。"该指导意见建议,在组织内运营的AI代理应仅被授予其职责所必需的最小访问权限。