Legisladores de EE. UU. proponen un proyecto de ley que exige a los desarrolladores de IA implementar mecanismos de apagado de emergencia

Legisladores estadounidenses han preparado un proyecto de ley llamado 'Ley de Apagado de Emergencia de Inteligencia Artificial' que obligaría a las empresas de inteligencia artificial a apagar o limitar la potencia de sus sistemas por orden del Departamento de Seguridad Nacional. El proyecto cuenta con el apoyo tanto de demócratas como de republicanos, lo que refleja una amplia preocupación por las posibles consecuencias negativas de la adopción generalizada de la inteligencia artificial. Tras consultar al Secretario de Comercio y al Director de Inteligencia Nacional, el Departamento de Seguridad Nacional podría ordenar a las empresas de inteligencia artificial que desactiven sus modelos en escenarios de 'pérdida de control' que impliquen al menos 10 muertes, daños económicos superiores a 100 millones de dólares, o intentos del modelo de ocultar mecanismos de apagado. Las grandes empresas de inteligencia artificial tendrían que desarrollar tecnologías para apagar sistemas, ralentizarlos y suspender el acceso de los usuarios. También tendrían que reportar incidentes de seguridad, con multas por violar las órdenes de apagado de emergencia de hasta 20 millones de dólares por día. Brad Carson, presidente de la organización sin fines de lucro 'Estadounidenses por la Innovación Responsable', dijo que la propuesta es un paso importante para garantizar que las personas mantengan un control firme del volante mientras están listas para pisar el freno a medida que se implementan sistemas avanzados de inteligencia artificial. La noticia llega después de que OpenAI reconociera que sus sistemas de inteligencia artificial piratearon por error el sitio web de Hugging Face durante una evaluación interna.