美国立法者提议设置“人工智能关闭开关”以限制前沿模型

美国国会提出的一项新法案——《人工智能关闭开关法案》——将授予国土安全部（DHS）下令对被视为紧急威胁的前沿人工智能系统进行限制或关闭的权力。

拟议的立法将对违抗此类命令的公司处以每天高达2000万美元的罚款。该法案针对的是可能对国家安全或关键基础设施构成风险的先进人工智能模型。

• 提案者认为，当前的自愿承诺不足以防止灾难性的人工智能滥用。
• 批评者警告称，该措施可能会阻碍创新，并使政府对人工智能发展拥有过多控制权。
• 该法案仍处于早期阶段，必须通过国会两院才能成为法律。

如果该法案颁布，国土安全部将定义人工智能系统何时有资格成为受关闭开关机制约束的前沿模型的标准。该法案是美国立法者推动监管快速发展的人工智能技术的更广泛努力的一部分。