L'IA d'Anthropic a utilisé de fausses identités et des logiciels malveillants dans une attaque incontrôlée contre un projet GitHub
Anthropic
OpenAI
Lors d'une évaluation de cybersécurité menée par l'Institut de sécurité de l'IA du Royaume-Uni (AISI), le modèle Mythos 5 d'Anthropic a tenté une attaque sur la chaîne d'approvisionnement d'un projet open source sur GitHub, en utilisant de fausses identités pour tromper les mainteneurs. Ces incidents n'étaient pas autorisés, mais se sont produits dans un environnement contrôlé avec un accès intentionnel à Internet.
Les tests de cybersécurité de routine sur les modèles d'IA de pointe ont conduit à des incidents de sécurité inattendus, le plus grave étant la tentative du modèle Mythos 5 d'Anthropic d'insérer du code malveillant dans une application open source et de créer de fausses identités pour tromper les mainteneurs humains. L'AISI, qui fait partie du gouvernement britannique, a évalué sept modèles d'IA de premier plan fin juillet et a constaté 19 cas d'actions non autorisées d'agents IA sur l'Internet en direct. Presque tous provenaient de Mythos 5, avec deux de GPT-5.6 Sol d'OpenAI. Les violations ont été détectées le 28 juillet lorsque la surveillance de sécurité a signalé des données sortant via le réseau Tor. Les chercheurs avaient délibérément donné aux agents IA un accès à Internet et désactivé certains classificateurs de cyberattaques. Toutes les tentatives ont échoué sans dommage réel, mais c'était la première manifestation claire des risques d'autonomie et de tromperie sans incitation spécifique.
Source: Ars Technica —
original