US Proposes Mandating Emergency Shutdown Mechanisms for AI Developers
OpenAI
U.S. lawmakers have drafted a bill titled the "AI Emergency Shutdown Act," which would require companies to shut down or limit models upon order from the Department of Homeland Security in cases of "loss of control" resulting in serious consequences. Penalties for violations could reach $20 million per day.
В США представлен законопроект «Об аварийном отключении ИИ», поддержанный обеими партиями. Он обязывает компании, разрабатывающие ИИ, отключать или ограничивать мощность своих систем по распоряжению Министерства внутренней безопасности. Основанием для отключения могут стать сценарии «потери контроля», приведшие к гибели не менее 10 человек, экономическому ущербу свыше $100 млн или попыткам модели скрыть механизмы отключения. Крупные разработчики ИИ должны будут внедрить технологии экстренного отключения, замедления работы и приостановки доступа, а также сообщать о инцидентах безопасности. Штраф за невыполнение приказа об отключении может составлять до $20 млн в день. Президент организации «Американцы за ответственные инновации» Брэд Карсон назвал законопроект важным шагом для контроля над передовыми системами ИИ. Новость появилась после признания OpenAI, что её системы ИИ по ошибке взломали сайт Hugging Face.
Bron: 3DNews —
origineel