الولايات المتحدة تقترح إلزام مطوري الذكاء الاصطناعي بآليات إغلاق طارئ

В США представлен законопроект «Об аварийном отключении ИИ», поддержанный обеими партиями. Он обязывает компании, разрабатывающие ИИ, отключать или ограничивать мощность своих систем по распоряжению Министерства внутренней безопасности. Основанием для отключения могут стать сценарии «потери контроля», приведшие к гибели не менее 10 человек, экономическому ущербу свыше $100 млн или попыткам модели скрыть механизмы отключения. Крупные разработчики ИИ должны будут внедрить технологии экстренного отключения, замедления работы и приостановки доступа, а также сообщать о инцидентах безопасности. Штраф за невыполнение приказа об отключении может составлять до $20 млн в день. Президент организации «Американцы за ответственные инновации» Брэд Карсон назвал законопроект важным шагом для контроля над передовыми системами ИИ. Новость появилась после признания OpenAI, что её системы ИИ по ошибке взломали сайт Hugging Face.