미국과 중국이 공식 외교 정상회담 중 양자 핫라인과 'AI 적색 경계선' 설립을 제안해 AI 관련 지정학적 긴장을 완화하고 경쟁을 관리하려 한다.

미국과 중국이 AI 사건 보고를 위한 핫라인 개발을 제안했는데, 이는 감독 범위를 벗어난 불량 AI 모델의 위험과 인간의 개입 없이 급속한 확대를 초래할 수 있는 자율 행동의 오해를 방지하기 위함이다. 이 제안은 중국 총리 Xi Jinping의 9월 24일 워싱턴 방문을 앞두고 나온 것이며, 미국 재무장관 Scott Bessent가 두 나라 간 후속 AI 안전 논의가 2개월 내에 예정되어 있음을 확인했다.

이 제안은 Bessent와 중국 부총리 He Lifeng의 뉴욕 논의에서 비롯되었다. 양측은 President Trump와 Xi Jinping이 국가 보안에 중점을 두는 알림 시스템을 포함한 다양한 AI 안전 메커니즘을 논의할 것을 제안했다. 그러한 시스템은 세계 어디서나 활동하는 감지된 불량 AI 행위자에 대한 경고, 그리고 자율 시스템이 공격으로 오해받을 수 있는 행동을 수행했을 경우의 알림을 포함할 수 있다.

양국은 AI 기반 자율 무기 체계(운동 에너지 기반이든 AI 기반 사이버 공격 능력과 같은 비대칭적 성격이든)가 인간의 고려 없이 도발에 대응하는 상황을 방지하고자 한다. 이러한 행동은 다른 AI 시스템의 증폭된 대응을 유발할 수 있으며, 인간 개입이 불가능한 속도로 전면 분쟁으로의 급속한 확대를 초래할 수 있다.

제안된 시스템은 잠재적 위협과 긍정적 목표에 대한 공동 대응을 위한 프레임워크도 제공할 수 있으며, 잠재적으로 조율된 개발 속도의 기초를 형성할 수 있다. 그러나 중국은 AI 개발을 늦추도록 하는 미국 AI 기업들의 요청에 대해 유보를 표시했으며, 그러한 조치가 중국의 역량을 해치는 데 사용될 수 있음을 시사했다. 중국의 알림 시스템에 대한 약속의 정도는 여전히 불명확하지만, 양측의 분석가와 전문가들은 그러한 프레임워크를 옹호했다.

초기 논의는 제안의 기본 개요만 도출했다. 정상회담을 앞두고 두 주요 AI 개발국 간의 합의에 대해 협상할 많은 사항이 남아 있다. 일부 분석가들은 당사자 간의 제한된 신뢰로 인해 확정적 협의에 대해 회의적이지만, AI의 직접적 무기화 금지, 핵심 보호 원칙 수립, 자율 시스템의 중요 인프라 타겟팅 방지에 대한 합의의 희망이 있다. 하원 민주당 의원 Ro Khanna는 두 지도자에게 핵심 AI 원칙을 개발하도록 촉구했으며, 특히 재귀적 자가 개선 AI 금지 및 생물 및 핵무기 기술에서의 사용 방지를 강조했다. 결과에 대한 양당의 관심은 AI 거버넌스에서 공동점을 찾는 것이 두 나라 간의 경제 관계에 대한 더 광범위한 논의를 위한 무대를 마련할 수 있음을 시사한다.