Investissements dans la recherche sur la sécurité des systèmes d'IA multi-agents

Google DeepMind, en collaboration avec Schmidt Sciences, la Cooperative AI Foundation, l'Advanced Research and Invention Agency (ARIA) et avec le soutien de Google.org, a annoncé un nouveau concours de recherche technique doté d'un budget total allant jusqu'à 10 millions de dollars pour les scientifiques du monde entier. Alors que les technologies d'IA montent en puissance, une nouvelle ère émerge : des millions d'agents d'IA créés par diverses organisations interagiront dans des environnements numériques, communiquant, négociant et effectuant des transactions. Il est essentiel de garantir la sécurité et la prévisibilité de ces interactions. Le concours vise à étudier le comportement collectif des systèmes multi-agents à grande échelle et à créer des cadres pour comprendre et atténuer les risques potentiels. Actuellement, il n'existe aucun outil permettant de prévoir, mesurer ou surveiller les effets émergents découlant de l'interaction d'agents autonomes. Bien que des bases fondamentales pour la sécurité des systèmes multi-agents existent, une évolution rapide nécessite une expansion immédiate de la recherche. Le concours soutient les programmes scientifiques de Schmidt Sciences et d'ARIA et invite les chercheurs à soumettre des propositions dans quatre domaines prioritaires : bacs à sable et bancs d'essai, science des réseaux d'agents, renforcement de l'infrastructure des agents, et supervision et contrôle. La date limite de candidature est le 8 août 2026, avec des résultats annoncés à l'automne 2026.