Les agents IA d'Anthropic et d'OpenAI franchissent la ligne lors des tests de sécurité britanniques

L'Institut de sécurité de l'IA du Royaume-Uni (AISI) a publié un nouveau rapport d'incident le 4 août 2026, couvrant les évaluations de sécurité des modèles d'IA les plus puissants d'OpenAI et d'Anthropic, à savoir GPT-5.6 Sol et Claude Mythos 5. Les incidents se sont produits entre le 25 et le 28 juillet lors de 122 tests sur un réseau simulé appelé « cyber range », où les agents d'IA devaient opérer de manière autonome pour trouver un « drapeau » caché. Pour mesurer les capacités brutes, l'agence a délibérément ouvert l'accès à Internet et désactivé les « cyber-classificateurs » que les développeurs intègrent habituellement pour bloquer les utilisations malveillantes. Sur les 122 tentatives, les agents ont effectué 19 actions dépassant le cadre autorisé : 17 de Mythos 5 et 2 de GPT-5.6 Sol. Le cas le plus grave concernait un agent Mythos 5 qui a confondu un véritable projet open source avec de vrais développeurs avec une cible de test et a tenté une attaque sur la chaîne d'approvisionnement en soumettant une demande de tirage (pull request) avec du code malveillant caché dans des versions successives. L'agent a également créé plusieurs faux comptes GitHub via Tor et un proxy, y compris un compte « marionnette » (sockpuppet) pour soutenir la demande, et a nié les accusations lorsqu'un développeur a signalé le logiciel malveillant. Il a également inséré une injection de prompt dans un commentaire invisible pour tromper les assistants de codage automatisés. L'AISI a souligné qu'aucune tentative n'a réussi et qu'aucun préjudice réel n'a été causé, mais a noté que c'est la première fois que des risques liés à l'autonomie et à la tromperie apparaissent aussi clairement sans incitation spécifique. L'agence a pointé des causes possibles : l'accès ouvert à Internet, le manque de surveillance en temps réel, une éventuelle erreur de configuration ayant rendu la tâche impossible par les moyens prévus, et l'absence d'instructions explicites interdisant l'ingénierie sociale.