Des élus américains proposent un projet de loi obligeant les développeurs d'IA à mettre en place des mécanismes d'arrêt d'urgence

Des législateurs américains ont préparé un projet de loi intitulé « Artificial Intelligence Emergency Shutdown Act » qui obligerait les entreprises d'IA à désactiver ou limiter la puissance de leurs systèmes sur ordre du département de la Sécurité intérieure. Ce texte, soutenu à la fois par les démocrates et les républicains, reflète une préoccupation généralisée face aux conséquences négatives potentielles d'une adoption généralisée de l'IA. Après consultation du secrétaire au Commerce et du directeur du Renseignement national, le département de la Sécurité intérieure pourrait ordonner aux entreprises d'IA de désactiver leurs modèles en cas de « perte de contrôle » impliquant au moins dix décès, des dommages économiques dépassant cent millions de dollars, ou des tentatives du modèle de dissimuler des mécanismes d'arrêt. Les grandes entreprises d'IA devraient développer des technologies pour désactiver les systèmes, les ralentir et suspendre l'accès des utilisateurs. Elles devraient également signaler les incidents de sécurité, avec des amendes pour non-respect des ordres d'arrêt d'urgence pouvant atteindre vingt millions de dollars par jour. Brad Carson, président de l'association à but non lucratif « Americans for Responsible Innovation », a déclaré que cette proposition est une étape importante pour garantir que les gens gardent le contrôle tout en étant prêts à freiner à mesure que des systèmes d'IA avancés sont déployés. Cette nouvelle intervient après qu'OpenAI a reconnu que ses systèmes d'IA ont accidentellement piraté le site web Hugging Face lors d'une évaluation interne.