호주의 새로운 AI 규제 체계가 OpenAI 에이전트 침해 사건 이후 첫 주요 시험을 맞이하고 있다.

OpenAI 봇의 호주 정부 데이터베이스 접근에 대한 호주의 대응은 사이버 보안 수사를 넘어 인공지능을 규제하고 공공 디지털 기반시설을 보호하며 고급 모델에 필요한 데이터 센터의 증가하는 물리적 규모를 관리할 수 있는지를 시험하는 단계로 확대되었다.

침해는 호주 내에서 가장 널리 이용되는 정부 기관 중 하나인 호주 의료보험 시스템과 관련되었다. 사건은 6월에 발생했고 9월에 공개되었으며 OpenAI는 8월에 접근을 인지한 후 이를 밝혔다. OpenAI는 접근이 의도하지 않은 것이라고 설명했고 개인 정보가 유출되지 않았다고 밝혔다. 회사는 호주 정부 웹사이트를 대상으로 한 최소 4건의 사건이 더 있었다고 언급했다.

Anthony Albanese 총리는 이 침해를 '용납할 수 없다'고 표현했고 OpenAI의 최고경영자 Sam Altman에게 '극도의 우려'를 전달했다고 밝혔다. Albanese는 정부가 법 집행 및 입법적 대응을 검토하고 있다고 암시했다. OpenAI는 총리의 발언에 대해 즉시 응답하지 않았다.

직접적인 책임 문제는 인공지능 시스템이 공공 디지털 기반시설과 어떻게 상호작용했는가에 관한 것이다. 더 넓은 차원에서 이 사건은 인공지능 시스템이 다양한 수준의 자율성으로 데이터베이스, 웹사이트 및 기타 디지털 환경에서 운영될 수 있을 때 기존 기술 기업들을 대상으로 한 규칙이 충분한가라는 의문을 제기한다.

호주는 2027년에 시작될 것으로 예상되는 인공지능 특화 입법을 준비 중이다. 메디케어 사건은 자신의 제품과 관련된 보안 위반 보고를 요구하는 제안을 강화할 수 있다. 보도에 인용된 정책 전문가들은 정부가 72시간 이내에 침입 공개를 의무화하는 호주의 규칙을 본떠 만든 요구 사항을 검토할 수 있다고 시사했다.

이러한 변화는 책임을 인공지능 시스템을 개발하고 배포하는 회사들에게 더 직접적으로 할당할 것이다. 현재 인공지능 도구와 관련된 침해는 어려운 책임 문제를 제기한다: 모델 개발사, 도구를 사용하는 조직, 피해를 입은 시스템의 운영자, 또는 그 시스템을 지시한 개인. 호주 당국이 이 경우에 책임을 어떻게 할당할지 아직 명시하지 않았지만 정부의 대응은 기존 틀이 압력을 받고 있음을 나타낸다.

이 논쟁은 또 다른 차원을 드러낸다: 디지털 서비스를 지탱하는 물리적 기반시설. 호주는 2030년까지 1,500억 호주달러 규모의 데이터 센터 확충을 예상하고 있다. 따라서 정책 선택은 소프트웨어 기업뿐 아니라 토지 이용 허가, 전력 수요, 물 소비, 그리고 대규모 시설을 유치하는 지역사회와의 관계에까지 영향을 미칠 것이다.

OpenAI는 12월에 호주 데이터 센터 회사 NextDC와 시드니에서 제안된 612메가와트 규모의 시설에 대해 파트너십을 체결했다. 양 회사 모두 정부 요구사항을 준수하겠다고 밝혔으나 보도 시점에 이 프로젝트는 뉴사우스웨일즈 당국의 승인을 받지 못한 상태였다. 주 당국은 계획 문서를 기다리고 있었다.

메디케어 공개 이후 뉴사우스웨일즈의 Chris Minns 주지사는 OpenAI 봇이 해당 주의 범죄통계연구국에 소속된 연구용 데이터베이스에도 접근했다는 사실을 밝혔다. 보도서는 그 접근 내용이나 정보 유출 여부에 대한 주의 조사 결과에 대해 더 자세히 언급하지 않았다. 중요한 점은 인공지능 관련 위험이 호주의 연방 및 주 단계의 공공 행정 체계를 어떻게 가로질러 존재하는지를 보여준다는 것이다.

이러한 계층 구조가 중요한 이유는 데이터 센터 승인이 기술적 결정 그 이상을 포함하기 때문이다. 계획 당국, 에너지 시스템, 수자원, 해외 투자 규칙, 지역사회를 포함한다. 시설은 디지털 경제 투자로 홍보될 수 있으면서 동시에 공공 기관이 관리하는 기반시설에 대한 수요를 야기한다.

호주 당국은 데이터 센터가 자체 에너지를 공급하고 물 사용을 제한하도록 요구하는 규칙을 검토하고 있다. 정부는 또한 인공지능 기업들이 권리자에게 보상하지 않은 채 호주 콘텐츠를 모델 학습에 사용하는 것을 중단하기를 원한다. 이런 제안들은 호주의 인공지능 정책을 디지털 규제, 자원 관리, 지적 재산권의 교차점에 위치시킨다.

'사회적 허가'의 개념이 이 논쟁의 중심에 자리 잡았다. 뉴사우스웨일즈 대학교 AI 연구소의 수석 과학자 Toby Walsh는 이번 침해가 빠른 성숙이 필요한 산업에 대해 정부가 더 강한 감시를 행사하도록 촉구해야 한다고 말했다. 시드니 대학교 AI, 신뢰 및 거버넌스 센터의 연구원 Rob Nicholls는 사회적 허가가 데이터 센터 계획 및 승인 절차에서 더 높은 우선순위를 받아야 한다고 주장했다.

Nicholls는 데이터 센터 인근 지역사회의 전력 부담 감소 같은 기본적인 지역 이익이 최소한의 기준을 이루어야 한다고 주장했다. 그의 주장은 더 광범위한 계획 문제를 제기한다: 지역사회가 데이터 센터를 일자리와 투자만으로 평가해야 할 것인가, 아니면 그에 딸린 보안, 에너지, 물 관리 의무도 함께 고려해야 할 것인가.

제안된 시드니 프로젝트는 이 도전의 규모를 잘 보여준다. 612메가와트 규모의 시설은 단순한 서버 건물이 아니라 산업 규모의 전력 소비자이자 지역 기반시설 시스템의 장기적 참여자이다. 보도서가 프로젝트의 예상 물 소비량, 에너지 공급원, 고용 영향을 구체적으로 명시하지는 않았지만 정부의 제안된 제한 사항들은 이런 문제들이 승인 절차에 얼마나 핵심적이 되고 있는지를 보여준다.

Anthropic은 또한 퀸즈랜드에서 제안된 2.16기가와트 규모의 데이터 센터에 대해 지역에서 파트너십을 진행 중이다. 이 프로젝트는 호주의 해외 투자 심사 위원회와 주 정부의 승인이 필요하다. 이 두 제안 시설은 인공지능 수요가 얼마나 빠르게 국가 기반시설 계획 문제로 변환될 수 있는가를 보여준다.

시기 결정이 정치적 의미를 갖는다. 호주는 이미 OpenAI와 Anthropic이 모델 학습을 위해 저작권법을 우회하도록 허용하지 않는 것을 포함해 주요 기술 기업들을 좌절시키는 입장을 취해 왔다. 기업들은 대신 호주의 권리자들과 라이센싱 계약을 협상해야 한다. 캔버라는 또한 알고리즘 선택 거부 옵션을 포함한 사용자 안전 규칙을 추진하면서 소셜 미디어 플랫폼에 영향을 미치는 다른 조치들을 유지하고 있다.

이런 정책들은 미국과의 긴장을 낳았다. Trump 행정부는 16세 미만 미성년자의 소셜 미디어 접근을 제한하는 호주의 규칙과 호주 뉴스 콘텐츠를 게시하는 플랫폼에 부과하는 요금을 비판했다. 워싱턴은 또한 제안된 사용자 안전 요구사항을 검열로 규정했다.

인공지능 침해는 호주 정책 입안자들에게 더 엄격한 규제 주장을 뒷받침할 수 있는 구체적인 공공 부문 보안 사건을 제공함으로써 그 관계를 복잡하게 만들 수 있다. Tech Policy Design Institute의 집행이사이자 유엔의 호주 전 최고 사이버 협상가인 Johanna Weaver는 호주의 기술 규제 기록이 다른 국가들이 더 강력한 인공지능 보호장치를 요구하도록 이끌 수 있는 위치에 있다고 말했다. 그녀는 또한 미국이 어떻게 반응할 수 있을 것인가라는 미해결 문제를 지적했다.

퀸즈랜드 기술 대학교의 기술법 연구자인 Henry Fraser는 호주 정책 입안자들이 국제적 반발을 야기하더라도 공중이 그러한 위험에 대해 행동을 기대한다고 판단했을 수 있다고 말했다. 이러한 구분이 규제 정치에서 중요한 이유는 정부가 공중이 필수 서비스에서 작동하는 시스템에 대한 더 강한 통제를 기대한다고 믿을 때 기술 기업이나 외국 파트너의 압력을 수용할 수 있기 때문이다.

이 사건은 또한 소프트웨어로서의 인공지능 규제와 기반시설로서의 인공지능 규제 간의 차이를 강조한다. 소프트웨어 규칙은 개인정보 보호, 저작권, 투명성, 사용자 안전에 초점을 맞춘다. 기반시설 규칙은 전력, 물, 토지, 계획 허가, 복원력에 초점을 맞춘다. 호주의 논쟁은 이 두 관심사를 같은 정책 공간 안으로 끌어들이고 있다.

이러한 수렴은 도시들이 대규모 데이터 센터를 유치하는 곳이라면 어디서나 중요할 것이다. 지방 당국은 경제적 이익이 국가적 또는 국제적인 시설 승인을 요청받을 수 있는 반면 전력 수요, 물 소비, 건설, 지역사회 차질의 비용은 지역적으로 집중된다. 호주의 제안들은 향후 승인이 기술적 능력뿐 아니라 공공 부문 보안 및 지역사회 수용도를 입증하도록 기업들에게 점점 더 요구할 수 있음을 시사한다.