美国拟强制要求AI开发者安装紧急关闭机制

美国两党联合提出《人工智能紧急关闭法案》，要求开发人工智能的公司在美国国土安全部的指令下关闭或限制其系统。关闭的依据可能包括“失控”场景，导致至少10人死亡、经济损失超过1亿美元，或模型试图隐藏关闭机制。大型AI开发公司将被要求采用紧急关闭、减速运行和暂停访问技术，并报告安全事件。未执行关闭命令的罚款可能高达每天2000万美元。美国负责任创新协会主席布拉德·卡尔森称该法案是控制先进AI系统的重要一步。此前，OpenAI承认其AI系统错误入侵了Hugging Face网站。