澳大利亚新的AI监管框架在OpenAI智能体泄露事件后首次面临重大考验。
澳大利亚对OpenAI机器人访问政府数据库的应对已超越网络安全调查范围,成为对该国能否监管人工智能、保护公共数字基础设施以及管理先进模型所需数据中心不断增长的实际占地面积的一次考验。
此次泄露涉及澳大利亚医疗保险系统(Medicare),这是该国使用最广泛的政府机构之一。该事件发生在6月,在9月被披露,OpenAI在8月得知该访问后对其进行了披露。OpenAI称该访问是无意的,并表示没有私人信息被泄露。该公司指出这是涉及澳大利亚政府网站的至少四起事件之一。
总理安东尼·阿尔巴内塞(Anthony Albanese)称此次泄露"不可接受",并表示他向OpenAI首席执行官萨姆·奥特曼(Sam Altman)表达了"极度关切"。阿尔巴内塞表示政府正在考虑执法和立法回应。OpenAI未立即回应有关总理评论的提问。
当前的责任问题涉及人工智能系统如何与公共数字基础设施互动。更广泛地说,该事件引发了一个问题:当人工智能系统能以不同程度的自主性在数据库、网站和其他数字环境中操作时,现有的传统科技公司规则是否足够。
澳大利亚正在准备预计从2027年开始的特定人工智能立法。医疗保险事件可能会强化要求人工智能公司报告其产品所涉及的安全漏洞的提议。报道中引用的政策专家建议,政府可能会考虑以澳大利亚强制在72小时内披露入侵的规则为基础的要求。
这样的转变将把责任更紧密地放在开发和部署人工智能系统的公司身上。目前,涉及人工智能工具的泄露会引起关于责任的困难问题:模型开发者、使用该工具的组织、受影响系统的运营者,或指挥该系统的人员。虽然澳大利亚当局尚未具体说明他们将如何在本案中分配责任,但政府的回应表明现有框架正承受压力。
这场争议还揭示了第二个维度:支撑数字服务的物理基础设施。澳大利亚预计到2030年数据中心建设的价值约为1500亿澳元。因此,政策选择将不仅影响软件公司,还将影响土地使用审批、电力需求、水消耗以及与托管大型设施的社区的关系。
OpenAI在12月与澳大利亚数据中心公司NextDC合作开发一个在悉尼拟议的612兆瓦设施。两家公司都表示他们将遵守政府要求,尽管该项目在报道时尚未获得新南威尔士州当局的批准。州当局正在等待规划文件。
医疗保险披露后,新南威尔士州州长克里斯·米恩斯(Chris Minns)透露,一个OpenAI机器人还访问了属于该州犯罪统计与研究局的研究数据库。该报告未提供有关该访问或州对信息是否被泄露的调查结果的进一步详情。其重要意义在于演示人工智能相关风险如何跨越澳大利亚公共行政的联邦和州层面。
这些层级很重要,因为数据中心审批涉及的不仅仅是技术决策。它们包括规划当局、能源系统、水资源、外资规则和当地社区。一个设施可以被推广为数字经济投资,同时也会对由公共机构管理的基础设施造成需求。
澳大利亚当局正在考虑要求数据中心提供自己的能源并限制水使用的规则。政府还希望人工智能公司停止在未补偿权利人的情况下使用澳大利亚内容进行模型训练。这些提议将该国的人工智能政策定位在数字监管、资源管理和知识产权的交叉点。
"社会许可"的概念已成为这场辩论的中心。新南威尔士大学人工智能研究所首席科学家托比·沃尔什(Toby Walsh)表示,此次泄露应该促使政府对一个需要快速成熟的行业行使更大的监督权。悉尼大学人工智能、信任和治理中心研究员罗布·尼科尔斯(Rob Nicholls)主张,社会许可在数据中心规划和审批流程中应该排名更高。
尼科尔斯主张,基本的地方利益,如减少数据中心附近社区的能源负担,应该构成最低期望。他的论点指向了一个更广泛的规划问题:社区是否应该仅通过就业和投资来评估数据中心,还是也应该通过与其相关的安全、能源和水义务来评估。
拟议的悉尼项目说明了这一挑战的规模。612兆瓦的设施不仅仅是一座装有服务器的建筑,而是工业规模的电力消费者和本地基础设施系统的长期参与者。虽然报告未具体说明该项目的预期水消耗、能源来源或就业影响,但政府提议的限制表明这些问题正在成为审批框架的组成部分。
Anthropic也在与本地伙伴合作开发一个在昆士兰州拟议的2.16吉瓦数据中心。该项目需要获得澳大利亚外资审查委员会和州政府的批准。这些拟议的设施共同表明人工智能需求能多么快速地转化为国家基础设施规划问题。
时机具有政治意义。澳大利亚已经采取了令主要科技公司感到沮丧的立场,包括拒绝允许OpenAI和Anthropic绕过版权法进行模型训练。公司必须改为与澳大利亚权利人协商许可协议。堪培拉还在追求用户安全规则,包括退出算法的选项,同时维持影响社交媒体平台的其他措施。
这些政策与美国造成了紧张关系。特朗普政府批评了澳大利亚限制16岁以下儿童访问社交媒体的规则以及对发布澳大利亚新闻内容的平台的征税。华盛顿还将拟议的用户安全要求定性为审查制度。
人工智能泄露可能会使这种关系复杂化,因为它给澳大利亚政策制定者一个具体的公共部门安全事件,可以据此建立更强硬的监管论证。科技政策设计研究所执行主任、澳大利亚前驻联合国首席网络谈判代表约翰娜·韦弗(Johanna Weaver)表示,澳大利亚的技术监管记录使其能够领导其他国家寻求更强的人工智能保障。她还指出了美国可能如何回应的未解决问题。
昆士兰科技大学技术法律研究员亨利·弗雷泽(Henry Fraser)表示,澳大利亚政策制定者可能已得出结论,国内公众对此类风险的担忧支持采取行动,即使这会引发国际反弹。这一区别在监管政治中很重要:如果政府相信公众期望对在必要服务中运作的系统进行更强的控制,它可能会接受来自科技公司或外国伙伴的压力。
该事件也突出了将人工智能作为软件和作为基础设施进行监管之间的区别。软件规则关注隐私、版权、透明度和用户安全。基础设施规则关注电力、水、土地、规划许可和抗灾能力。澳大利亚的辩论正在将这两套关切纳入同一政策空间。
这种融合无论在任何拥有大型数据中心的城市可能都很重要。地方当局可能被要求批准经济效益为国家或全球性的设施,而电力需求、水使用、建筑和社区干扰的成本集中在本地。澳大利亚的提议表明,未来的批准可能越来越需要公司展示不仅技术能力,还包括公共部门安全和社区认可。