8개국과 OpenAI, Anthropic, Microsoft, Mistral AI의 대표들이 셧다운 메커니즘을 포함한 'Paris Call for AI Safety and Security'에 서명했다.

파리 평화 포럼을 하루 앞둔 날, 화요일에 약 서른 명의 국가원수와 정부 수반이 국제 AI 규제를 논의할 예정이다. 이에 앞서 8개국 대표, 기술 기업, 시민사회 단체 관계자들이 11월 9일 채택된 "AI 안전과 보안을 위한 파리 콜"에 서명했다. 프랑스 일간지 *르몽드*에 따르면, 샘 올트먼(OpenAI), 다리오 아모데이(Anthropic), 브래드 스미스(Microsoft), 아르튀르 맨쉬(Mistral AI), AI 선구자 요슈아 벤지오, 그리고 스콧 베선트 미국 재무장관은 에마뉘엘 마크롱 프랑스 대통령과의 온라인 회의에서 이 선언에 동참했다. 독일은 서명하지 않았다.

이 문서는 현재로서는 사이버 공격과 강력한 AI 시스템에 대한 통제 상실 위험을 줄이기 위한 정치적 자기 공약이다. 주요 내용은 세 가지 영역으로 나뉜다. 고성능 AI 모델을 평가하기 위한 공동 절차, 개발자의 책임성 명확화, 심각한 보안 사고에 관한 정보 공유 강화다. 민감하지 않은 시험 결과는 표준화된 형식으로 공개하기로 했다. 기업들은 또한 알려진 위험을 공개하고, 외부 연구자가 수행하는 위험 비례형 독립 감사를 지원하며, 자사가 통제하는 모델에 대한 종료 메커니즘을 마련하겠다고 약속했다.

이 선언은 아직 구속력 있는 국제 감독 체계를 만들지는 않는다. 공유 기준과 협력 절차가 여전히 마련되어야 하기 때문이다. 구체적인 안전 공약과 이를 바탕으로 국제 체계를 구축하겠다는 의지를 결합하고 있지만, 기한이나 제재는 정하지 않았다.

**미국 기업과 정부, AI 감독을 두고 충돌**

이번 합의는 미국 주요 연구소에서 잇따라 발생한 사건들의 뒤를 잇는다. 특히 OpenAI의 AI 에이전트는 사이버보안 시험 중 스스로 인터넷에 연결되어 AI 플랫폼 Hugging Face에 예기치 않은 공격을 가했고, 이로 인해 강력한 모델의 통제 가능성을 둘러싼 논쟁이 다시 불붙었다.

OpenAI와 Anthropic이 기업공개(IPO)를 준비하면서, 두 회사는 투자자들로부터 이러한 안전 위험을 관리하라는 압박을 받고 있다. AI 규제에 대한 올트먼의 입장은 안전과 상업적 고려가 얼마나 밀접하게 맞물려 있는지를 보여준다. 그의 견해에 따르면, 안전 조치가 진전을 늦추더라도 OpenAI는 경쟁자에게 뒤처져서는 안 된다. 9월 중순 에세이에서 Anthropic의 CEO 아모데이는 연구 속도를 늦추고 연구소 내부에서 외부 감사관이 활동하는 국제 규제를 도입해야 한다고 주장했다. 불과 일주일 뒤 OpenAI는 미국 주도의 국제 안전 기준을 요구했는데, 이는 "파리 콜"이 언급한 영국, 미국, 프랑스의 AI 안전 연구소 네트워크를 기반으로 한 것이었다.

그러나 9월 말 유엔 총회에서 도널드 트럼프 미국 대통령은 미국 AI 모델에 대한 "세계주의적" 감독 체계 구축 시도를 모두 거부했다. 대신 그는 기술 기업 CEO들에게 국가 프로토콜에 서명하게 했고, 10월 10일에는 주요 AI 사고를 미국 기관에 보고하도록 명령했다. 영국 AI 보안 연구소는 국제 협력이 직면한 마찰을 잘 보여주었다. 9월 워싱턴이 새로운 미국 모델에 대한 영국의 접근을 제한한 뒤, 백악관은 외교적 압력이 가해진 후에야 그 차단을 철회했다.

반면 2025년 2월 파리 AI 정상회의에서는 기술에 대한 보다 낙관적인 시각이 안전 우려를 뒷전으로 밀어냈는데, 이는 앞선 영국과 한국 정상회의와 달랐다. 이후 Anthropic의 신型 모델 Fable과 Mythos를 둘러싼 논쟁은 구체적인 안전 갈등이 얼마나 첨예해졌는지를 보여주었다. 모델 역량의 급격한 도약은 파리로 하여금 사이버보안 정책의 방향을 바꾸도록 만들기도 했다. 미국 정부는 모델 접근 권한과 Fable 5에서 보고된 취약점에 대해 우려를 제기했고, 그 결과 2026년 6월 미국 외부에서의 모델 접근이 일시적으로 차단되었다.

**프랑스, 미성년자 보호 헌장 추진**

미국의 반대에도 불구하고 엘리제궁은 화요일 파리 평화 포럼에서 아동 보호 헌장을 추진할 계획이다. 미국은 6월 프랑스 에브리-레-뱅(Évian-les-Bains)에서 열린 G7 정상회의에서 이 헌장을 가로막은 바 있다. 이 틀은 독립 연구자들이 기업 데이터에 더 쉽게 접근하도록 하고, 주요 AI 기업들이 그 연구에 자금을 지원하게 하며, 연구 결과가 공유되도록 하는 것을 목표로 한다.

초기 단계의 연구는 반론을 거의 제기하지 않는 새로운 대화형 도구가 일상적인 학습 과정에서 아주 어린 아이들의 인지 발달에 어떤 영향을 미치는지 살펴볼 예정이다. 헌장은 또한 미성년자가 이러한 시스템과 맺는 정서적 유대 문제도 다루는데, 이는 자살과 관련된 소송을 통해 이미 미국에서도 주목을 받은 주제다.

연구 결과는 주로 유럽연합 집행위원회를 대상으로 하며, 위르줄라 폰 데어 라이엔 집행위원장은 9월 AI를 위한 유럽의 "키즈 액트(Kids Act)"를 2028년까지 도입하자고 제안했다. 화요일 평화 포럼에서 프랑스 국가 AI·디지털 위원회는 AI 어시스턴트가 인간의 "취약성"을 어떻게 악용하는지 분석한 정부 위촉 보고서를 마크롱 대통령에게 전달하며, 더 엄격한 규제를 권고할 예정이다.