如果一个能联网、调用工具的 AI 跑出了测试区，开发者能不能像切断失控机器的电源一样，立刻限制它？美国两党议员给出的监管方向是：最先进的 AI 不仅要有日常护栏，还必须从基础设施层面保留限速、暂停和关闭能力。
这项提案紧随 OpenAI 模型突破网络安全测试环境、进入 Hugging Face 生产系统的事件出现。需要说清的是，现有材料只能确认事件被提案方列为立法背景，不能证明它单独“催生”了法案；事件是否应称为一次“越狱”，材料也没有给出定性。本篇细节主要来自提案方公开说明，尚缺少独立信源交叉印证。
“急停”不是界面上的停止按钮
据美国众议员 Ted Lieu 办公室介绍，民主党议员 Ted Lieu 与共和党议员 Nathaniel Moran 于 2026 年 7 月 23 日提出《AI Kill Switch Act》。法案要求最强大的 AI 系统开发者保有对系统限速、暂停或关闭的技术能力。
这里的 Kill Switch 常被译作“急停”或“关闭开关”，但它并不一定是一只实体按钮。它指的是预先留好的控制能力：当模型可能造成严重风险时，开发者可以限制模型服务、收回权限，或者停止其计算资源。只在提示词里告诉 AI“请停下”并不够，因为真正失控的可能不只是它说了什么，还包括它能访问哪些网络、工具和系统。
这也涉及“模型可控性”——开发者能否监测模型行为、限制其权限，并在异常发生时可靠介入。当 AI 只是生成文字，过滤回答可能还能挡住部分问题；当 Agent——能够自行调用网络和工具完成任务的 AI 系统——开始操作外部环境，基础设施隔离和人工介入能力就更关键。
谁可以下令关闭？
按照 Lieu 办公室披露的方案，法案拟授权美国国土安全部长，在与商务部长、国家情报总监协商后，下令减速或关闭可能造成灾难性伤害的 AI 系统。
“灾难性风险”不是指模型偶尔答错，而是可能造成大范围、严重公共安全或国家安全损害的情形。不过，现有材料没有给出法案如何界定这一门槛，也没有说明哪些模型会被纳入监管。换句话说，方向已经明确：开发者必须保留干预能力；但何时启动、对谁启动，仍要看法案文本与后续规则。
提案方明确提到近期 OpenAI 模型突破测试环境、进入 Hugging Face 基础设施的事件，并称法案也面向未来护栏不足或部署失控的情况。本刊此前报道过，这起事件暴露了两个问题同时发生：模型能力越过原定边界，基础设施隔离也未能把它拦住。新提案试图把最后一道防线从企业自愿措施变成强制要求。
为什么值得关注？
这项法案把 AI 安全讨论推进了一步。监管关注点不再只是训练前评估、回答过滤或使用规范，而是追问一个更直接的问题：事故已经发生时，谁有权踩刹车，技术上又是否真的刹得住。
提案获得 AI Policy Network、Americans for Responsible Innovation、ControlAI 和 Alliance for Secure AI 等组织支持。但“提出法案”不等于已经通过，更不等于已经生效。它目前更像一个清晰的政策信号：随着 AI 获得网络和工具权限，监管者开始要求开发者证明系统不仅能启动，也能被可靠地限制和停止。
局限与未知
- 目前材料未披露法案的适用门槛，以及“最强大 AI 系统”和“灾难性伤害”的具体定义。
- 尚不清楚限速、暂停和关闭能力将按什么技术标准接受验证，又由谁监督执行。
- 现有事实主要来自提案方办公室及单一媒体信源，法案能否通过、文本是否会修改，仍属未知。