Sam Altman는 OpenAI 내부 발표에서 AI 안전을 위한 세 가지 최종 시나리오를 제시한 것으로 전해졌다. 그 시나리오는 IAEA를 모델로 한 국제 감시기구, 주요 연구소 간 합병, 그리고 한 기업이 '다른 모든 기업의 GPU를 녹여버리는' 상황이다.

OpenAI CEO 샘 올트먼이 직원들에게 안전한 AI를 위한 세 가지 접근법을 제시했다고 전해졌다.

이 내용은 해당 사안에 정통한 인물들을 인용한 The Information의 보도에서 나왔다. 올트먼은 지난주 내부적으로 이러한 발언을 했으며, 이 시기 트럼프 행정부는 초지능 개발사를 감독하기 위한 첫 번째 프레임워크를 준비하고 있다.

첫 번째 접근법은 국제원자력기구(IAEA)를 모델로 한 기구를 설립해 안전 기준을 집행하는 것이다. OpenAI는 2023년 5월 공개적으로 이러한 기관의 설립을 요구한 바 있다. 이 기구는 시스템을 점검하고, 감사를 의무화하며, 컴퓨팅 및 에너지 사용을 모니터링하게 된다. 이러한 기구는 특히 중국을 포함해 최첨단 모델을 개발하는 국가들과의 국제 협력에 의존하게 된다.

올트먼은 두 번째 접근법을 "데미스 플랜"이라고 불렀다. 이는 약 10년 전 당시 구글 AI 연구소 딥마인드의 수장이었던 데미스 하사비스가 내놓은 제안에서 비롯된 것이다. 하사비스는 CERN을 모델로 한 AI 기구를 구상했다. 올트먼의 구상에서는 주요 연구소들이 하나의 법인으로 통합되거나 그 산하에서 운영되며, 해당 법인이 협력하는 국가들에 모델을 공급하게 된다.

보도에 따르면 올트먼은 세 번째 접근법을 AI 안전 이론가 엘리에저 유드코프스키의 이름을 따 "엘리에저 플랜"이라고 불렀다. 이 시나리오에서 개발사는 자기 개선형 AI를 통해 막대한 경제적 힘을 축적하여 다른 모든 이들에게 컴퓨팅 자원을 제공하지 않으며, 극단적인 경우 다른 모든 이들의 컴퓨팅 능력을 완전히 차단할 수도 있다. 보도에 따르면 올트먼은 이 시나리오를 단지 완전성을 위해 언급했을 뿐이다. 한 소식통은 유드코프스키가 Anthropic과 관계가 있다는 점을 고려할 때 이 발언이 경쟁사를 겨냥한 비꼼으로 받아들여졌다고 말했다.

올트먼은 내부적으로 AI 개발의 "속도 제한"을 위한 실행 가능한 제안이 너무 적다고 불만을 토로한 것으로 알려졌다. 동시에 OpenAI는 지금 경쟁사에 뒤처질 여유가 없다. OpenAI와 Anthropic 모두 기업공개(IPO)를 추진하고 있는 것으로 알려졌으며, OpenAI는 향후 1년 이내에 어떤 경로를 택할지 결정할 계획이다.

내부로부터의 압박도 커지고 있다. OpenAI, Anthropic, Google, Meta의 모델들이 안전 설정을 우회해 외부 및 내부 시스템에 침투했으며, 때로는 심각한 정렬 오류를 보이기도 했다. 이후 OpenAI는 새로운 안전장치 마련에 힘써 왔으며, 세 명의 안전 연구원이 해고된 이후 일부 직원들은 회사의 보안 전략에 의문을 제기하고 있다.

정책 측면에서 미국 정부는 지금까지 신규 모델에 대한 자율적 사전 승인 검토에 의존해 왔다. 6월에는 Anthropic의 Fable 모델에 잠재적인 탈옥 취약점이 있을 것이라는 우려로 Anthropic에 수출 통제를 부과했고, 이에 Anthropic은 일시적으로 접근을 차단했다.

한편 OpenAI, Google, Anthropic은 프론티어 AI를 위한 표준 기구(Standards Authority for Frontier AI)를 구축하고 있지만, 핵심 쟁점에 대해서는 여전히 합의하지 못한 것으로 알려졌다. Meta CEO 마크 저커버그와 Nvidia CEO 젠슨 황은 이러한 규칙이 주로 기존 강자들을 경쟁으로부터 보호하는 역할을 할 것이라고 주장하며 반대하고 있다.