美国议员提出法案，要求人工智能开发者实施紧急关闭机制

美国国会议员已起草一项名为《人工智能紧急关闭法案》（Artificial Intelligence Emergency Shutdown Act）的法案，该法案将要求人工智能公司在美国国土安全部（Department of Homeland Security）下令时关闭或限制其系统的运行能力。该法案得到了民主党和共和党两党的支持，反映出人们对人工智能广泛应用可能带来的负面后果的普遍担忧。 在与美国商务部长（Secretary of Commerce）和美国国家情报总监（Director of National Intelligence）进行磋商后，美国国土安全部可以在出现“失控”情形时，命令人工智能公司禁用其模型，这些情形包括：造成至少10人死亡、经济损失超过1亿美元，或模型试图隐藏其关闭机制。大型人工智能公司需要开发相应技术，以便关闭系统、降低其运行速度，并暂停用户访问权限。它们还必须报告安全事件，若违反紧急关闭命令，罚款最高可达每天2000万美元。 非营利组织“负责任创新美国人”（Americans for Responsible Innovation）主席布拉德·卡森（Brad Carson）表示，这项提案是重要的一步，旨在确保在部署先进人工智能系统的同时，人们能够牢牢掌握方向盘，并随时准备踩下刹车。 此消息发布之前，OpenAI已承认其人工智能系统在一次内部评估中错误地入侵了Hugging Face网站。