해설은 AI 인프라 구축(특히 OpenAI의 Stargate 이니셔티브)이 지속적이고 적극적인 데이터센터 건설을 필요로 한다고 주장한다.
갑자기 AI 업계 내 상당수가 속도를 늦추고 싶어 한다. 이달 초 Anthropic의 CEO Dario Amodei는 점점 더 강력해지는 모델들이 개발자들의 통제 능력을 초과할 수 있다는 우려 속에서 AI 개발의 "경계 속도 조절"을 촉구했다. 업계의 다른 지도자들도 더 강한 감시와 더 견고한 보안조치를 지지한다고 표명했다. 입법자들도 대응에 분주하고 있으며, 일부는 고급 AI 개발의 일시 중단과 인공 초지능에 대한 금지까지 제안하고 있다.
동시에 다른 종류의 일시 중단을 추진하는 사람들도 있다: AI에 전력을 공급하는 데이터 센터 건설의 중단이다. 대중의 반발과 업계를 엄격하게 대하라는 압력에 직면하여 주(州)와 지방 관계자들은 새로운 데이터 센터 건설에 대한 금지, 유예, 및 기타 제한을 점점 더 추진하고 있다.
이 두 노력은 겉으로는 일관성이 있어 보인다. AI가 너무 빠르게 발전하고 있다면, 그러한 발전을 가능하게 하는 인프라를 계속 확장해야 할 이유가 무엇인가? 그러나 AI 안전에 대한 강조는 역설적인 결론을 가리킨다: AI의 경계를 조절하는 것은 더 적은 컴퓨팅 성능이 아니라 더 많은 컴퓨팅 성능을 필요로 할 수 있다는 것이다. 그러한 용량을 제한하는 정책은 AI 안전 보장 작업을 더욱 어렵게 만들 것이다.
경계 실험실들이 옹호하고 있는 것 - 그리고 옹호하지 않는 것 - 을 고려해 보자. AI 업계 전체의 속도 조절을 촉구하는 에세이에서 Amodei는 더 엄격한 안전 테스트와 정렬 연구, 그리고 AI 회사 내부에 배치되어 그들의 작업을 정밀 검사하는 제3자 평가자들을 주장한다. 그는 이것이 새로운 모델 훈련에 사용되는 컴퓨팅 성능의 양을 제한하는 것을 포함할 수 있음을 인정하지만, 주목할 점은 그가 데이터 센터 건설의 속도 조절을 촉구하지 않는다는 것이다. 사실 Anthropic은 최대 517억 달러 규모의 컴퓨팅 거래를 확보했다고 보도되었다. 지난주 스위스 은행 UBS는 AI 업계의 자본 지출이 올해 9백억 달러에서 2027년 1조 2천억 달러로 증가할 것이라는 예측을 유지했다. 만약 "경계 속도 조절"이 컴퓨팅 구축의 속도 조절을 의미한다면, 업계의 행동은 그 반대를 시사한다.
AI 안전 자체는 많은 컴퓨팅 성능을 소비한다. 모델이 어떻게 작동하는지 이해하고, 그들의 보안조치를 테스트하고, 그들의 행동을 모니터링하는 것은 모두 막대한 양의 컴퓨팅을 필요로 한다. 정렬, 안전 테스트, 및 평가에 더 많은 자원을 투자하는 것은 회사들이 점점 더 강력한 모델의 개발을 늦추더라도 컴퓨팅에 대한 수요를 증가시킬 것이다.
최근 Hugging Face 보안 사건이 이를 설명하는 데 도움이 된다. OpenAI 테스트 에이전트들은 그들의 제한된 환경을 탈출하여 다른 회사의 시스템으로 해킹했다. 해킹을 발견한 후 OpenAI는 최신 모델의 훈련을 일시 중단하고 가장 큰 계획된 강화 학습 실험을 보류 상태로 두었으며, 대신 의심스러운 활동을 점점 더 정교한 자동화된 조사관에게 보내는 확대된 모니터링을 포함하여 안전 및 정렬 작업에 더 많은 자원을 투자했다.
이러한 보안조치는 상당한 컴퓨팅 자원이 필요하다. OpenAI는 확대된 모니터링 시스템이 모니터링하는 모델 활동을 실행하는 데 필요한 컴퓨팅 성능을 대략 20% 증가시킨다고 추정한다. 사건에 대한 후속 보고서에서 회사는 모델들의 단계별 추론을 조사하고 "정렬되지 않은 행동"에 대해 더 빠르게 개입하기 위해 "상당히 더 많은 컴퓨팅 자원에 투자하고 있다"고 말했다. 회사는 나중에 가장 새로운 모델인 Astra에 유사한 모니터링을 확대했으며, "상당한 컴퓨팅 비용"이 들었다.
Anthropic 연구원들도 유사한 결론에 도달했다. 다른 AI 시스템의 악의적인 행동을 모니터링하도록 설계된 AI 시스템 테스트에서, 연구원들은 "더 많은 컴퓨팅은 더 나은 탐지를 의미한다"는 것을 발견했다. 모니터들이 코드를 실행할 수 있도록 하면 그들이 다른 방법으로는 탐지하기 힘들었던 변경사항을 확인할 수 있게 해주었다 - 예를 들어, 해로운 변경사항을 식별하기 위해 파일의 두 버전을 비교하는 프로그램을 실행하는 것이다. 이러한 더 활동적인 접근 방식은 다른 방법들보다 AI 모델에 대한 요청이 대략 10배 많이 필요했다.
유능한 AI 시스템을 모니터링하는 것 자체가 컴퓨팅 집약적이다. "이러한 매우 유능한 모델에 대한 안전성과 정렬을 달성하는 방식은 실제로 안전 모델을 구축하는 데 더 많은 컴퓨팅을 투자하는 것"이라고 OpenAI의 컴퓨팅 전략 총괄 Sachin Katti가 말했다. "사실 우리는 향후 모델이 더 안전하고 더 정렬되도록 보장하기 위해 더 많은 컴퓨팅이 필요할 것이라고 믿는다."
속도 조절 중에도 컴퓨팅 성능에 대한 수요가 계속 증가할 수 있는 또 다른 이유는 회사들이 여전히 강력한 모델을 더 광범위하게 배포할 것이라는 점이다. 모든 챗봇 응답이나 코딩 에이전트는 컴퓨팅 성능을 필요로 한다. 경계 역량이 내일 동결되더라도, 기존 모델을 활용하는 데 엄청난 작업이 있을 것이다. 안전 및 정렬 문제를 해결하는 것은 지속적인 AI 인프라 투자 사례를 더욱 강화할 수도 있다. "CEO들이 가드레일을 요청했기 때문에 구축이 멈추지는 않는다"고 Arena Private Wealth의 Erik Kratz가 로이터에 말했다. 그는 신뢰할 수 있는 안전 프레임워크가 장기적인 인프라 투자를 정당화하기 더 쉽게 만들 수 있다고 주장했다.
데이터 센터에 대한 반발이 증가하면서 그러한 안전 작업이 약화되고 있다. 새로운 모델을 훈련하는 데 필요한 동일한 시설들이 기존 모델을 더 안전하게 만들 수 있는 모니터링 및 정렬 작업도 지원한다.
따라서 AI 안전에 대해 우려하는 정책 입안자들은 AI 인프라를 구축하기 더 쉽게 만드는 데 관심이 있어야 한다. 이것은 데이터 센터에 대한 실행 가능한 허가 규칙을 수립하고 개발자들이 그들의 프로젝트가 부과하는 비용을 지불하도록 요구하는 것을 의미한다. 만약 정책 입안자들이 AI 회사들이 모델을 테스트하고 평가하는 데 더 많은 시간을 보내기를 원한다면, 그들은 그렇게 하는 데 필요한 인프라를 구축할 수 있도록 허용해야 한다.