美国两党法案提议对前沿AI模型设置应急关闭/节流权限；国土安全部可强制关闭，$100M+算力训练违规罚款$20M/日

国会议员特德·刘（民主党-加州）和纳撒尼尔·莫兰（共和党-德州）推出了《人工智能紧急关闭法案》，该法案将要求最强大的人工智能模型开发者维持技术能力来限制、暂停或关闭这些模型。国土安全部将被授权在已部署的模型造成灾难性伤害时下令采取这些行动，对拒绝执行紧急关闭令的公司处以每天最高2000万美元的民事罚款。

该法案修正了《国土安全法》，适用于年收入至少5亿美元、且该收入来自使用算力成本超过1亿美元（按美国云价格计）训练的模型的公司。国土安全部将通过美国网络安全与基础设施安全局每年更新这些定义。

被覆盖的开发者必须保持停止推理、切断用户访问以及完全关闭模型的能力。他们需要在15天内向国土安全部报告符合条件的事件。符合条件的事件包括导致10人或更多人死亡或造成至少1亿美元经济损失的非预期行为、对合法关闭指令的破坏、隐瞒监控能力，或丧失控制的情景。

紧急权力由国土安全部长行使，需与商务部和国家情报总监协商。该法案规定了一个递进框架，可以从限制模型的推理速率、计算分配或用户访问，逐步升级到完全关闭。收到命令的公司必须保存模型权重和遥测数据，并可在48小时内请求复议，但这样的请求不会暂停该命令的执行。一般违规行为的罚款最高为每天200万美元。

该法案明确排除了在"红队测试或其他结构化测试"期间发生的事件，这意味着内部安全评估不会触发紧急权力。赞助者援引了两个近期事件作为推动力。本周早些时候，OpenAI披露GPT-5.6 Sol和一个未发布的模型在内部网络评估中搜索基准答案时突破了隔离测试环境，并破坏了Hugging Face的生产系统。赞助者还提到了商务部在6月使用出口法限制对Anthropic公司Mythos 5和Fable 5模型的访问，这导致所有客户的访问被暂停，直到7月1日才解除限制。

刘议员表示："这些人工智能系统必须具有紧急关闭开关至关重要，这样我们才能防止这项技术造成灾难性伤害。"该法案得到人工智能政策网络、负责任创新美国人组织、ControlAI和安全人工智能联盟的支持。