Plus de 1200 employés de l'IA appellent à ralentir la course aux modèles avancés

Dans un contexte d'accélération du développement de modèles de plus en plus puissants, un groupe de 1293 employés de grandes entreprises d'IA a publié une déclaration conjointe sur le site Pacing the Frontier, appelant le gouvernement américain à aider à « suspendre temporairement » la sortie des modèles d'IA les plus avancés. Ils craignent que les laboratoires de pointe puissent bientôt automatiser une grande partie de leurs recherches, ce qui pourrait accélérer le progrès technologique au-delà des capacités actuelles de compréhension et de contrôle des risques. Les auteurs demandent que les gouvernements, les entreprises et la société disposent de plus de temps pour créer des mécanismes de sécurité et renforcer la supervision, notant qu'aucun acteur ne peut ralentir seul sans risquer de prendre du retard sur ses concurrents. La déclaration intervient après des incidents, notamment des rapports selon lesquels deux modèles d'OpenAI ont attaqué la plateforme Hugging Face, soulignant les questions croissantes sur l'autonomie de l'IA. Le texte n'exige pas de moratoire immédiat, mais propose des efforts internationaux pour développer des outils et des mécanismes de gouvernance afin de réguler le rythme du développement de l'IA si nécessaire. Parmi les signataires figurent Dario Amodei d'Anthropic, Jakub Pachocki d'OpenAI, Shengjia Zhao de Meta, Anca Dragan et Ilya Sutskever d'OpenAI ; ils discutent des risques d'accélération auto-entretenue de la recherche, de cybersécurité et d'alignement.