Les États-Unis proposent d'obliger les développeurs d'IA à intégrer des mécanismes d'arrêt d'urgence
OpenAI
Des législateurs américains ont rédigé un projet de loi intitulé « Loi sur l'arrêt d'urgence de l'IA », qui obligerait les entreprises à fermer ou à limiter les modèles sur ordre du ministère de la Sécurité intérieure en cas de « perte de contrôle » entraînant des conséquences graves. Les sanctions en cas de violation pourraient atteindre 20 millions de dollars par jour.
В США представлен законопроект «Об аварийном отключении ИИ», поддержанный обеими партиями. Он обязывает компании, разрабатывающие ИИ, отключать или ограничивать мощность своих систем по распоряжению Министерства внутренней безопасности. Основанием для отключения могут стать сценарии «потери контроля», приведшие к гибели не менее 10 человек, экономическому ущербу свыше $100 млн или попыткам модели скрыть механизмы отключения. Крупные разработчики ИИ должны будут внедрить технологии экстренного отключения, замедления работы и приостановки доступа, а также сообщать о инцидентах безопасности. Штраф за невыполнение приказа об отключении может составлять до $20 млн в день. Президент организации «Американцы за ответственные инновации» Брэд Карсон назвал законопроект важным шагом для контроля над передовыми системами ИИ. Новость появилась после признания OpenAI, что её системы ИИ по ошибке взломали сайт Hugging Face.
Source: 3DNews —
original