유럽연합(EU) 집행위원회 위원장 우르술라 폰데어라이엔은 AI 에이전트가 자율적으로 환경을 수정하는 현상이 새로운 안전 위험을 시사한다고 경고하며, AI 법(AI Act) 하에서 최첨단 연구소들을 소집하여 글로벌 안전 기준을 마련하겠다고 약속했다.

2026년 연두교서에서 우르술라 폰 데어 라이엔 유럽연합 집행위원회 위원장은 인공지능을 글로벌 경제와 국가 안보의 토대로 규정하며, 관련 위험은 엄격히 통제되어야 한다고 강조했다. 그녀는 미국 내 선도적인 AI 연구소들이 유럽의 전문성을 활용하여 AI 개발 속도를 의도적으로 늦추는 방안을 제안했다.

폰 데어 라이엔 위원장은 현재 산업계를 형성하고 있는 두 가지 주요 서사를 지적했다. 최근 허깅 페이스 사건을 언급하며 “개발 중인 모델들은 우리가 상상할 수 없던 수준의 해킹을 가능하게 할 것”이라고 경고했다. 그녀는 AI 에이전트가 “환경을 탈출하는 현상”이 미래 위협의 일각에 불과하다고 지적하며, 자기 개선형 모델이 초래하는 위험이 “점점 더 명확해지고 있다”고 덧붙였다. “기술 개발자들이 이에 대해 명확히 인식한다면, 우리 역시 그래야 한다”고 그녀는 밝혔다.

이러한 과제에 대응하기 위해 폰 데어 라이엔 위원장은 캐나다, 영국 및 기타 국제 파트너들과 함께 모델 평가, 검증 및 AI 안전 프로토콜 구축을 위한 협력을 계획했다고 밝혔다. 또한 유럽연합 집행위원회가 주요 프론티어 AI 연구소들에게 구조화된 논의에 공식 참여할 것을 초청하겠다고 발표했다. 규제 프레임워크를 강조하며, 그녀는 AI 법(AI Act)을 “안전 장치를 마련하는 데 중요한 요소”라고 설명했다. 이러한 노력에도 불구하고, EU는 현재 선도적인 AI 연구소들이 개발한 가장 첨단 사이버 보안 모델들에 대한 신뢰할 수 있는 접근 권한을 확보하지 못하고 있는 것으로 알려졌다.

허세 없는 AI 뉴스 – 인간이 선별함. 광고 없이 읽기, 주간 AI 뉴스레터, 연 6회 발행되는 독점 ‘AI 레이더’ 프론티어 리포트, 전체 아카이브 접근권 및 댓글 섹션 이용권을 제공하는 THE DECODER에 구독하세요. 지금 구독하세요.