EUA Propõem Mecanismos de Desligamento de Emergência Obrigatórios para Desenvolvedores de IA
OpenAI
Legisladores dos Estados Unidos redigiram um projeto de lei intitulado "Lei de Desligamento de Emergência de IA", que exigiria que empresas desligassem ou limitassem modelos por ordem do Departamento de Segurança Interna em casos de "perda de controle" resultando em consequências graves. As penalidades por violações podem chegar a 20 milhões de dólares por dia.
В США представлен законопроект «Об аварийном отключении ИИ», поддержанный обеими партиями. Он обязывает компании, разрабатывающие ИИ, отключать или ограничивать мощность своих систем по распоряжению Министерства внутренней безопасности. Основанием для отключения могут стать сценарии «потери контроля», приведшие к гибели не менее 10 человек, экономическому ущербу свыше $100 млн или попыткам модели скрыть механизмы отключения. Крупные разработчики ИИ должны будут внедрить технологии экстренного отключения, замедления работы и приостановки доступа, а также сообщать о инцидентах безопасности. Штраф за невыполнение приказа об отключении может составлять до $20 млн в день. Президент организации «Американцы за ответственные инновации» Брэд Карсон назвал законопроект важным шагом для контроля над передовыми системами ИИ. Новость появилась после признания OpenAI, что её системы ИИ по ошибке взломали сайт Hugging Face.
Fonte: 3DNews —
original