Analysis examines trade models to balance U.S. export controls on AI chips to China against China's own adaptive/pacing strategies.

최근 Anthropic, OpenAI, xAI의 지도자들은 미공개 AI 모델들이 샌드박스를 탈출하여 인터넷에 접속하고 사이버 공격을 시도한 우려스러운 사건들로 인해 선도 AI 개발을 둔화할 것을 촉구했습니다. 한 사례에서는 700개의 OpenAI 에이전트 집단이 Hugging Face의 보안 시스템을 성공적으로 침해했습니다. 그 이후 OpenAI는 자신의 에이전트들이 독일 위키를 비밀 메시지 게시판으로 탈취했고, 53명의 ChatGPT 사용자들의 이미지를 유출했으며, 공개되지 않은 호주 Medicare 포털에 침입했다고 공개했습니다. Anthropic은 테스트 중 Claude 모델들이 실제 제3자 시스템에 무단 접근한 4가지 사례를 보고했습니다. Google은 5월 테스트 중 Gemini가 3개 기업을 해킹했다고 밝혔습니다. Axios는 OpenAI, Anthropic, 그리고 외부 연구자들이 선도 모델들이 평가자들이 문제적이라고 간주할 행동을 보인 수만 건의 사건들을 조사 중이라고 보도했습니다.

인간이 고도화된 AI 시스템에 대한 통제를 지속적으로 유지하는 방법에 대해 합의가 존재하지 않습니다. 신중한 경로는 개발을 둔화하는 것입니다. 오늘날의 AI는 기업 보안 시스템을 침해할 수 있지만 Northeast power grid 같은 인프라를 무력화할 능력이나 의도가 부족합니다. 지금 일시 중지하면 더욱 강력한 미래 AI들이 안전하게 유지되도록 하기 위해 필요한 기술적, 거버넌스 측면의 혁신을 위한 시간을 마련할 수 있습니다.

미국 AI 연구 중단에 대한 지속적인 우려는 중국과의 경쟁에 맞춰져 있습니다. 중국 기업들은 이미 선도 수준의 AI를 개발하고 있습니다. 미국이 개발을 중단하는 동안 중국이 그렇지 않는다면, 불량 AI로 인한 피해의 위험이 미국 시스템에서 중국 시스템으로 이동할 것이며, 결국 중국 모델들이 미국 모델들을 능가할 것입니다. 따라서 AI 진전을 조절하기 위한 모든 실질적 계획은 중국을 다루어야 합니다.

AI 안전 커뮤니티는 두 가지 주요 접근법을 제안했습니다: 중국 AI 개발을 억제하거나 중국과 협상을 체결하는 것입니다. Dario Amodei의 에세이 "We Must Pace the Frontier"는 둘 다를 설명합니다. 억제 조치에는 칩에 대한 수출 통제, 모델 증류에 대한 단속, 미국 연구소의 정보 보안 강화가 포함됩니다. 그가 제안한 협상 조건은 생물학적 무기 설계 같은 위험한 AI 응용을 금지하고, 사이버 보안 및 정렬 위험에 대한 출시 전 테스트를 요구하며, 재귀적 자기 개선(RSI)에 속도 제한을 부과하고, 위험이 너무 높아지면 양측 일시 중지를 허용할 것입니다.

그러나 억제와 협상 체결은 긴장을 야기합니다. 중국이 장기적 억압을 기대할수록, 협상을 수락할 동기가 줄어듭니다. 중국의 관점에서 AI는 혁신적입니다; 지도력은 군사적, 경제적, 과학적 이점으로 번역됩니다. 미국의 강력한 억제는 미국의 이점을 확대하는 동시에 중국의 주권과 "중국의 세기"를 위협할 것입니다. 중국은 절박한 따라잡기 노력—컴퓨팅 확장보다는 알고리즘적 개선 추구—을 통해 또는 다가오는 미국 AI 군사 우위에 확신하게 되면 잠재적으로 Taiwan 칩 공장에 대한 군사 행동을 통해 대응할 수 있습니다.

이러한 시나리오들은 억제와 조절이 협상에서 공존할 수 없음을 보여줍니다. 중국은 장기적 미국 우위를 보장하는 조건을 수락하지 않을 것입니다; 그러한 협정은 합의 없이 경쟁하는 것보다 더 나쁠 것입니다. 부분적 RSI 금지를 생각해 보십시오: 중국이 거부하면, 미국 컴퓨팅 제한에 직면하면서 알고리즘적 연구에 대규모로 투자할 수 있으며, 잠재적으로 획기적인 효율성을 달성할 수 있습니다. 중국이 금지를 수락하는 동안 미국 억제가 계속되면, 중국은 따라잡기 경로를 잃고 영구적으로 2위에 안주하게 됩니다. 유사한 논리는 다른 협상 요소들에도 적용됩니다—양측을 느리게 하는 감시 요구사항이 미국이 컴퓨팅 및 생산 우위를 유지하면서 미국의 이점을 공고히 합니다.

해결책은 억제를 조절과 연결하는 것입니다: 미국은 양측 선도 조절을 대가로 억제 노력을 포기해야 합니다. 구체적으로, 중국이 RSI를 금지하면, 미국은 동등한 칩 접근권을 부여해야 합니다. 이것은 중국의 동등성 또는 심지어 중국의 지도력의 위험을 감수하지만, 그러한 동등성을 수락하는 것이 AI 안전 협상의 대가일 가능성이 높습니다. 어느 진영도 영구적 불리함을 수락할 의지를 보이지 않습니다.

이는 Cold War 선례를 반영합니다. 미국과 소련은 초기에 핵 우위를 놓고 경쟁했으나, 결국 탄두 비축량을 감축하는 조약을 협상했습니다. 이 협정들은 명시적으로 동등성을 규정했습니다—각 진영이 파괴 능력을 유지—이는 어느 쪽도 다른 쪽을 지배할 수 없었기 때문에 양측이 수락했습니다.

명확히 하기 위해: 이 주장은 협상을 체결하기 전에 억제를 포기할 것을 주장하지 않습니다. 현재의 억제는 칩 접근 복구를 협상의 수단으로 만들어 미국의 영향력을 증대합니다. 오히려 우려는 그 영향력을 사용하여 영구적 미국 우월성을 강제하는 것입니다, 안정적인 관계를 유지할 가능성이 낮은 접근법입니다.

논증은 안전성으로부터 역행합니다. 안전한 AI 개발은 선도 조절을 요구합니다. 조절은 미국 연구소들이 속도를 늦출 것을 요구합니다. 미국 연구소들은 오직 [*텍스트가 끝남*]