AI 벤더 외국 통제가 이사회 수준의 위험으로 제기, 핵심 부문 AI 주권에 관한 새로운 ASD 지침

호주 시그널스 디렉토레이트(Australian Signals Directorate)와 호주 기업 이사회 협회(Australian Institute of Company Directors)는 보드가 AI 제공업체의 외국인 소유, 통제 및 영향력을 그 자체로 사이버 위험으로 간주할 것을 권고하는 새로운 가이드라인을 발표했다. 이 조언은 특히 2025년 6월 미국 정부의 앤트로픽(Anthropic) 마이소스(Mythos)급 모델에 대한 접근 제한 명령 이후, 더 넓은 차원의 AI 주권 우려와 관련된 맥락에서 나왔다.

가이드라인은 보드를 위한 네 가지 주요 실행 항목을 식별했다. 첫째, 조직은 외국 통제 하의 AI 제공업체에 의존함으로써 발생하는 위험을 평가해야 한다. 현재 거의 모든 선도적인 프론티어(Frontier) AI 모델 개발사는 미국에 본사를 두고 있으며, 중국만이 경쟁력 있는 모델을 대규모로 개발하고 있는 유일한 국가다. 이 두 강국을 제외하면 프랑스의 미스트랄(Mistral)이 신뢰할 수 있는 독립적인 대안 중 하나로 꼽힌다.

둘째, 보드는 프론티어 AI 모델이 조직의 보안 태세, 특히 AI 기반 위협에 대한 노출에 어떤 영향을 미칠 수 있는지 검토해야 한다. 셋째, 조직적응형 에이전트(Agentic) AI 기반 위협 환경에 대응할 역량을 개발해야 한다. 넷째, 조직은 내부에서 AI 기술을 관리하기 위해 거버넌스, 프로세스 및 역량을 개선해야 한다.

가이드라인은 프론티어 모델이 공격 속도를 가속화하여 취약점 발견 및 악용 기간을 며칠에서 몇 시간으로 압축한다고 강조한다. 이러한 압축은 악의적 행위자의 기술적 장벽을 낮추며, AI 시스템이 여러 개의 저수준 취약점을 연결해 고수준의 침해로 이어질 수 있게 한다. 이제 모델은 인간의 감독 없이 또는 최소한의 감독 하에도 악의적인 활동을 수행할 수 있으므로, 접근 통제가 매우 중요하다.

앤서니 알바네제 총리도 이러한 주권 우려에 공감하며, 7월 15일 시드니 대학교에서 "2020년대 글로벌 불안정성의 피할 수 없는 교훈은 우리가 항상 다른 곳, 누군가에게 의존한다면 우리는 항상 취약해질 수밖에 없다는 것이다"라고 밝혔다. 가이드라인은 조직 내에서 운영되는 AI 에이전트에 대해 직무 수행에 필요한 최소한의 접근 권한만 부여해야 한다고 권고한다.