美国立法者提出“AI紧急关闭法案”：内容与争议
新法案将允许国土安全部关闭前沿AI系统——支持者称其为安全网，批评者则认为越权。
拟议中的《AI紧急关闭法案》将授权国土安全部下令立即关闭任何被视为构成国家安全风险的“前沿”AI系统，不合规者每日罚款高达2000万美元。该法案引发了关于安全与政府越权的辩论。
《AI紧急关闭法案》提案内容
根据该法案，国土安全部可发布紧急命令，限制或关闭任何对关键基础设施、公共安全或国家安全构成“迫在眉睫的威胁”的AI模型。不合规公司面临从100万美元起步、最高每日2000万美元的罚款。该法案针对所谓的“前沿”模型——即在关键领域能力接近或超越人类水平的先进AI系统。
支持紧急关闭的理由
支持者（包括多个网络安全和AI安全组织）认为，随着AI系统变得更加强大，它们可能被用于自动化网络攻击、设计武器或破坏电网。他们表示，紧急关闭是一种最后手段的安全机制，类似于其他技术中的紧急制动。一位议员在近期报道中表示：“这不是要扼杀创新，而是在系统失控时设置一个断路器。”
反对紧急关闭的理由
批评者——包括自由市场倡导者、部分科技公司和公民自由组织——警告称，该法案赋予未经选举的官员对快速发展的行业过大的权力。他们认为，“迫在眉睫的威胁”定义模糊，可能被用来针对不受欢迎但合法的AI系统。另一些人指出，许多前沿模型是开源的，使得关闭令不切实际。一位科技政策分析师表示：“这可能会扼杀美国的AI领导地位，而无法真正提高安全性。”
此外，法律专家质疑国土安全部是否具备评估复杂AI系统威胁的技术专长，以及每日2000万美元的罚款是否合理。该法案没有规定上诉程序，引发了正当程序的担忧。
什么是《AI紧急关闭法案》？
一项拟议的美国法律，允许国土安全部下令关闭构成迫在眉睫的国家安全威胁的前沿AI系统，违规者每日罚款高达2000万美元。
为什么有些人反对AI紧急关闭？
批评者认为该法案赋予政府过多的AI发展权力，定义模糊，威胁创新，且可能对开源模型无效。
法案中什么是“前沿”AI模型？
该法案针对在代码生成、网络安全或武器设计等领域能力接近或超越人类水平的先进AI系统——但具体阈值尚未确定。
政府曾经关闭过AI系统吗？
根据该法律，还没有——它仍是一项提案。迄今为止，美国政府尚未下令大规模关闭AI系统。
《AI紧急关闭法案》接下来会怎样？
该法案必须通过国会两院的委员会听证和投票。专家建议关注标记会议和专家证词。