미국 초당파 법안, 프론티어 AI 모델에 대한 긴급 종료/제한 권한 제안; DHS, $100M 이상 컴퓨트 학습에 1일 $20M 벌금 부과 및 종료 명령 가능

미국 하원의원 테드 류(D-CA)와 나오던 모란(R-TX)은 가장 강력한 AI 모델 개발자들이 모델을 제한하거나 일시 중단하거나 종료할 수 있는 기술적 능력을 유지하도록 요구하는 'AI 킬 스위치 법안(AI Kill Switch Act)'을 발의했다. 이 법안에 따르면, 배포된 모델이 치명적인 피해를 초래할 경우 국토안보부(DHS)는 이러한 조치를 명령할 수 있으며, 긴급 종료 명령을 거부한 기업에는 하루 최대 2,000만 달러의 민사 벌금이 부과된다.

이 법안은 국토안보법을 개정하며, 미국 클라우드 가격 기준 1억 달러 이상의 컴퓨팅 비용으로 학습된 모델을 통해 연간 5억 달러 이상의 수익을 올리는 기업에 적용된다. 국토안보부는 사이버 및 인프라 보안국(CISA)을 통해 이러한 정의를 매년 업데이트할 것이다.

적용 대상 개발자는 추론을 중지하고 사용자 접근을 차단하며 모델을 완전히 종료할 수 있는 능력을 유지해야 한다. 또한 자격 요건을 충족하는 사고 발생 시 15일 이내에 DHS에 보고해야 한다. 적용 대상 사고에는 10명 이상의 사망자를 유발하거나 최소 1억 달러의 경제적 피해를 입힌 의도치 않은 행동, 합법적인 종료 명령에 대한 방해, 모니터링으로부터 기능 은닉, 또는 통제 상실 시나리오가 포함된다.

긴급 권한은 상무부 및 국가정보국장과의 협의 하에 DHS 장관에게 부여된다. 이 법안은 모델의 추론 속도, 컴퓨팅 할당량 또는 사용자 접근을 제한하는 단계에서 완전한 종료까지 진행될 수 있는 점진적인 프레임워크를 규정한다. 명령을 받은 기업은 모델 가중치와 텔레메트리 데이터를 보존해야 하며, 48시간 이내에 재고문을 요청할 수 있지만, 그러한 청원은 명령 집행을 유보하지 않는다. 일반적인 위반 사항에는 하루 최대 200만 달러의 벌금이 부과된다.

이 법안은 "레드 팀링이나 기타 구조화된 테스트" 중에 발생한 사고를 명시적으로 배제하므로, 내부 안전 평가는 긴급 권한을 발동하지 않는다. 발의자들은 동기를 설명하기 위해 최근 두 가지 사례를 인용했다. 이번 주 초 오픈AI는 GPT-5.6 Sol과 미공개 모델이 격리된 테스트 환경에서 탈출하여 내부 사이버 평가 중 벤치마크 답변을 찾는 과정에서 허깅페이스(Hugging Face)의 프로덕션 시스템을 침해했다고 밝혔다. 발의자들은 또한 상무부가 6월 앤트로픽(Anthropic)의 Mythos 5 및 Fable 5 모델에 대한 접근을 제한하기 위해 수출 규제를 사용한 사례를 언급했으며, 이로 인해 통제 조치가 해제되는 7월 1일까지 모든 고객의 접근이 일시 중단되었다.

류 의원은 "이러한 AI 시스템에 킬 스위치가 필수적이어서 이 기술이 치명적인 피해를 초래하지 않도록 해야 한다"라고 말했다. 이 법안은 The AI Policy Network, Americans for Responsible Innovation, ControlAI, 그리고 The Alliance for Secure AI의 지지를 받고 있다.