Pentagon이 군사 AI 위험 통제에 어려움을 겪고 있는 가운데 US-China AI 경쟁이 가속화되고 있다.

미국이 새로운 AI 군비 경쟁에 돌입하고 있지만, 미국 정부 자체는 이를 따라잡는 데 어려움을 겪고 있다. 미군, 정보기관 및 방산 기업들은 사이버 보안, 무기, 정보 수집 및 국가 방어를 위해 인공지능을 빠르게 도입하고 있으나, 워싱턴은 일관된 통제 장치를 마련하는 데 실패하고 있는 것으로 드러났다.

이러한 혼란은 7월 중순 미 공군이 방산 기업들에게 9월 1일까지 무기와 통제 시스템에서 앤트로픽(Anthropic)의 AI 제품을 제거하라고 명령하면서 명확해졌다. 해당 기업들은 이 지시를 따르지 않을 경우 펜타곤과의 사업을 잃을 위험에 처했다. 약 한 달 후, 펜타곤은 입장을 바꿔 같은 방산 기업들에게 앤트로픽 제품을 공군 시스템과 네트워크에서 즉시 제거할 필요가 없다고 통보했다. 새로운 지침은 소송 결과에 따라 다시 뒤집힐 수도 있다.

피트 헤게셋 국방장관은 앤트로픽 CEO인 다리오 아모데이와 공개적으로 논쟁을 벌여 왔다. 이는 앤트로픽이 자사의 AI가 군사적으로 사용되는 방식에 대해 원했던 제한 조치들을 둘러싼 것이었다. 펜타곤은 이러한 제한 조치들을 용납할 수 없는 것으로 간주했다. 앤트로픽은 특히 민감한 두 가지 적용 분야에 대한 제한을 요구했는데, 회사는 미국인에 대한 국내 감시에 사용되거나 인간의 통제 없이 완전히 자율적으로 작동하는 무기에 사용할 것이라는 보장이 없으면 military에 제품을 제공하지 않겠다고 밝혔다. 원래 25페이지에 달하던 제한 조항은 결국 이 두 가지 조건으로 축소되었다.

앤트로픽이 Mythos라는 강력한 AI 시스템을 출시하면서 이 분쟁은 새로운 긴급성을 띠게 되었다. Mythos는 컴퓨터 소프트웨어의 취약점을 찾기 위해 설계된 시스템으로, 고도로 보호된 네트워크의 취약점을 식별하고 잠재적으로 악용할 수 있는 기술이다. 이는 사이버 전쟁에서 특히 중요한 의미를 갖는다. 그러나 국가안보국(NSA)은 여전히 앤트로픽의 Mythos 기술을 테스트하고 있으며, 이를 사용하지 않으면 미군 시스템의 취약점을 찾고 수정하는 것이 훨씬 어려워질 것이라고 주장했다. NSA는 광범위한 펜타곤의 제한에도 불구하고 Mythos의 실험 버전을 사용하도록 허용받아 방어 및 공격적 사이버 작전 모두를 위해 테스트하고 있다. 즉, 이 기술을 사용하여 미국 군사 네트워크를 테스트하는 동시에 중국, 러시아, 북한, 이란의 네트워크에서 취약점을 찾고 있는 것이다.

최근 사임한 한 미국 고위 관료는 Mythos 사용을 완전히 중단하는 것을 "일방적인 군축"과 유사하다고 묘사했다. 왜냐하면 이 기술은 사이버 전쟁의 균형을 크게 바꿀 수 있기 때문이다. 강력한 AI 도구를 금지하는 것은 미국이 경쟁 상대들에 비해 약화되는 결과를 초래할 수 있다.

AI는 이미 챗봇을 훨씬 넘어선 영역에서 미국의 국가 안보 시스템 전반에 배치되고 있다. 미국 전문가들은 중국이 가장 진보된 AI 모델을 개발하는 데 있어 미국보다 6개월 이하로 뒤처져 있을 것으로 추정한다. 이는 중요한 문제다. 왜냐하면 고급 AI는 기존 위협을 극적으로 증폭시킬 수 있기 때문이다. 중국 해커들은 이미 볼트 타이푼(Volt Typhoon)과 솔트 타이푼(Salt Typhoon)이라는 공격을 통해 미국의 통신 및 인프라 네트워크에 침투한 바 있다. 전 사이버보안 및 인프라 안보국(CISA) 국장 젠 이스터리는 상황이 변한 점은 AI가 이러한 공격의 속도와 규모를 극적으로 증가시킬 수 있다는 능력이라고 말했다.

핵심적인 쟁점은 안전성과 속도 사이의 균형이다. 더 빠른 AI 개발을 지지하는 사람들은 stricter 규칙이 미국이 중국에 대해 가진 약 6개월의 선도적 우위를 잃게 될까 봐 우려하는 반면, 비판자들은 너무 빠르게 진행되면 위험한 시스템들이 인간의 통제에서 벗어날 수 있다고 걱정한다. 이제 이 논쟁은 미국의 국가 안보 정책을 형성하고 있다.

워싱턴은 가장 강력한 AI 모델들에 대한 일관된 규칙을 만드는 데 어려움을 겪어 왔다. 이달 초 트럼프 행정부는 오픈AI(OpenAI)와 앤트로픽을 포함한 주요 AI 기업들의 임원들을 소환하여 생물무기, 기밀 미국 시스템 및 핵무기와 연결된 통신 네트워크와 관련된 위험에 대해 새로운 모델을 검토하는 방안을 논의했다. 그러나 이 정책에는 주요 구멍이 하나 있다. 오픈 AI 모델들은 검토 과정에서 제외된다. 이러한 모델들은 사용자가 코드를 사용자 정의할 수 있으며, 잠재적으로 위험한 목적으로 수정될 수 있다. 이는 정책에 대해briefing을 받은 기술 임원들이 제기한 우려 사항이다.

이는 특히 문제가 된다. 많은 중국 AI 기업들이 오픈 모델을 개발하고 있기 때문이다. 만약 미국이 자체 민간 AI 기업들에 엄격한 제한을 가하는 동안 중국 기업들이 사용자 정의 가능한 모델을 계속 개발한다면, 이 정책은 미국에게 경쟁적 불리함을 초래할 수 있다.

더 깊은 문제는 미국이 통제하려는 바로 그 AI 회사들을 필요로 할 수도 있다는 점이다. 펜타곤은 군사 AI 애플리케이션에 대한 통제를 원하는 반면, 앤트로픽과 같은 기업들은 자신들이 너무 위험하다고 간주하는 사용 사례에 대한 안전 장치를 원한다. AI 능력이 발전함에 따라 이 갈등은 점점 더 관리하기 어려워지고 있다.

미국의 AI 정책은 다른 측면에서도 일관성이 부족했다. 트럼프 행정부는 강력한 AI 모델을 훈련하고 운영하려면 막대한 컴퓨팅 파워가 필요한 만큼 중요한 엔비디아(Nvidia) 칩을 중국에 판매해야 하는지 여부를 놓고 repeatedly 입장을 바꿔왔다. 이로 인해 백악관은 어려운 줄타기를 하고 있다. 미국 AI 기업들을 지나치게 제한하면 외국 국가들이 중국 AI 모델로 향하게 될 수 있고, 규제가 느슨하면 위험한 AI 시스템이 미국을 향해 사용될 위험이 높아진다. 외교관계협의회(Council on Foreign Relations)의 선임 연구원이자 전 바이든 행정부 관계자는 행정부의 수출 통제 정책을 "비논리적(incoherent)"이라고 묘사했다.

현재 상황은 초기 핵軍비 경쟁과 유사하지만, AI는 근본적으로 다르다. 냉전 시기 미국은 핵무력 우위를 점하고 있었으며 소련의 추격을 두려워했다. 존 래틀리프 CIA 국장은 최근 AI와 "디지털 핵무기" 간의 비교가 잘못된 것이 아니라고 말했다. 그러나 AI는 핵무력처럼 통제될 수 없다. 핵 기술은 주로 정부에 의해 통제되었지만, AI는 주로 민간 기업들에 의해 개발되며 국경을 빠르게 초월하여 확산되므로 군비 통제 자체가 훨씬 더 복잡해진다.

AI는 전통적인 군사 기술보다 훨씬 빠르게 변화하고 있다. 가장 강력한 몇몇 AI 모델들은 매주 업데이트되며, 연구자들은 종종 시스템이 이미 사용된 후에야 새로운 기능을 발견한다. 이러한 속도와 예측 불가능성은 전통적인 국가 안보 계획을 훨씬 어렵게 만든다.

중국은 AI 모델 개발에서는 미국을 따라잡고 있을지라도 첨단 반도체 생산에서는 미국보다 뒤처져 있을 수 있다. 미국 전문가들은 중국이 선도적인 AI 모델을 개발하는 데 몇 달 뒤처져 있을 수 있지만, 이를 구동하는 데 필요한 첨단 칩을 생산하는 데는 몇 년 뒤처져 있을 것으로 추정한다. 이러한 반도체 격차는 미국이 AI 전략의 일환으로 수출 통제를 사용하는 이유 중 하나다. 미국은 중국의 첨단 칩 접근을 제한함으로써 중국 기업들이 최첨단 AI 개발에 필요한 컴퓨팅 인프라를 구축하는 것을 어렵게 만들기를 희망하고 있다.