DeepSeek, OpenAI, Anthropic이 이번 주 UN 안보리에 AI 현황 보고

두 소식통에 따르면 중국 AI 스타트업 DeepSeek은 이번 주 유엔 안전보장이사회에 인공지능이 야기하는 위험에 대해 보고할 기업 중 하나가 될 예정입니다. 세계 지도자들이 유엔 총회를 위해 뉴욕에 모이고 있는 중입니다.

15개 회원국으로 구성된 안전보장이사회는 수요일 AI와 국제 안보에 대해 논의할 예정입니다. 이는 여러 AI 업계 지도자들이 점점 더 강력해지는 AI 시스템의 개발 속도를 조율된 방식으로 늦춰야 한다고 촉구한 지 몇 주 후의 일입니다. 그들은 이러한 시스템들이 곧 자체적으로 개선될 수 있고 인간의 통제를 벗어날 수 있다고 경고했습니다.

OpenAI의 CEO인 Sam Altman은 이 회의에서 보고할 계획입니다. 로이터가 지난주 보도한 바에 따르면 외교관들은 또한 Anthropic의 고위 대표자들의 참석을 예상하고 있습니다. 한 소식통에 따르면 DeepSeek과 Moonshot을 포함한 다른 중국 AI 기업들도 성명을 낼 초대를 받았습니다. DeepSeek의 창립자 Liang Wenfeng은 참석할 계획이 없지만, 계획은 유동적이며 마지막 순간에 변경될 수 있습니다.

DeepSeek과 Moonshot은 논평 요청에 즉시 응하지 않았습니다.

국제 평화와 안보 유지를 담당하는 유엔 안전보장이사회는 2023년 인공지능의 위험에 대해 처음으로 회의를 개최했습니다. 당시 중국은 이 기술이 통제 불능 상태가 되어서는 안 된다고 경고했고, 미국은 이 기술이 사람들을 검열하거나 억압하는 데 사용되지 않을 것을 경고했습니다.

안토니우 구테흐스 유엔 사무총장은 지난주 세계 지도자들에게 빠르게 발전하는 AI가 무시할 수 없는 위험을 야기한다고 경고했습니다. 이는 기존의 안전 장치가 충분하다고 주장해온 미국의 도널드 트럼프 대통령과 의견이 맞지 않습니다. 트럼프는 중국이 AI 개발을 둘러싼 의심이 확산되는 것으로부터 이득을 얻을 것이라고 주장했습니다.

중국 관영 매체들은 AI 개발 속도 조절 요구를 "냉전 극본"에서 비롯된 것으로 일축했으며, 이는 워싱턴의 첨단 기술 지배력 유지와 베이징을 글로벌 AI 거버넌스 체계에서 배제하려는 의도라고 비난했습니다.

OpenAI와 Anthropic 같은 미국의 최전선 연구소의 지도자들과 달리, 중국의 주요 모델 개발사의 지도자들은 점점 더 강력해지는 AI 시스템이 인간을 속일 수 있고, 통제를 회피할 수 있으며, 재앙적인 해를 야기할 수 있다는 가능성을 공개적으로 언급한 경우가 드물었습니다. 이번 달 미국에서 논의가 심화된 이후로도 그러한 위험에 대해 대부분 침묵을 지켜왔습니다.

고위 미국 및 중국 관계자들은 AI 안전에 대한 추가 협상을 진행하기로 합의했다고 월요일 미국 재무부 장관 Scott Bessent가 발표했습니다. 이는 트럼프가 이번 주 워싱턴에서 중국의 시진핑 주석과 예정된 회담을 앞두고 만난 후의 발언입니다.