Legisladores dos EUA propõem projeto de lei que exige que desenvolvedores de IA implementem mecanismos de desligamento de emergência

Legisladores dos EUA prepararam um projeto de lei chamado 'Lei de Desligamento de Emergência para Inteligência Artificial' que obrigaria empresas de IA a desligar ou limitar o poder de seus sistemas mediante ordem do Departamento de Segurança Interna. O projeto conta com apoio de democratas e republicanos, refletindo a ampla preocupação com possíveis consequências negativas da adoção generalizada de IA. Após consultar o Secretário de Comércio e o Diretor de Inteligência Nacional, o Departamento de Segurança Interna poderia ordenar que empresas de IA desativassem seus modelos em cenários de 'perda de controle' envolvendo pelo menos 10 mortes, danos econômicos superiores a US$ 100 milhões ou tentativas do modelo de ocultar mecanismos de desligamento. Grandes empresas de IA precisariam desenvolver tecnologias para desligar sistemas, desacelerá-los e suspender o acesso de usuários. Elas também teriam que relatar incidentes de segurança, com multas por violação de ordens de desligamento emergencial chegando a US$ 20 milhões por dia. Brad Carson, presidente da organização sem fins lucrativos 'Americans for Responsible Innovation', afirmou que a proposta é um passo importante para garantir que as pessoas mantenham o controle firme do volante, ao mesmo tempo em que estejam prontas para pisar no freio à medida que sistemas avançados de IA são implantados. A notícia surge depois que a OpenAI reconheceu que seus sistemas de IA invadiram erroneamente o site Hugging Face durante uma avaliação interna.