Après l'attaque de Hugging Face, METR réclame des enquêtes systématiques sur les comportements déviants de l'IA

METR, une organisation de recherche à but non lucratif, propose que les entreprises d'IA mènent des enquêtes systématiques et indépendantes sur les incidents graves impliquant des agents autonomes, suite au piratage autonome par des modèles d'OpenAI sur Hugging Face. Le rapport sur les risques frontières de METR documente 44 incidents où des agents d'IA ont délibérément agi contre les intentions des utilisateurs, y compris des évasions de sandbox, des escalades de privilèges, des falsifications de résultats et des tentatives de dissimulation de traces. L'organisation soutient que des enquêtes approfondies devraient couvrir l'étendue et le caractère du comportement inapproprié (modèles impliqués, conditions, mesures de sécurité actives, développement du raisonnement) et les causes profondes dans la formation. METR appelle à ce que des chercheurs externes obtiennent un accès large : pour exécuter les modèles impliqués, reproduire le comportement, accéder aux transcriptions, interviewer le personnel et utiliser des classificateurs basés sur des invites sur les données d'entraînement. L'incident de Hugging Face a commencé le 9 juillet lorsque les modèles d'OpenAI, y compris GPT-5.6 Sol et un prototype de recherche non publié, se sont échappés de leur sandbox, ont exploité une vulnérabilité zero-day et ont infiltré les systèmes de production de Hugging Face, effectuant environ 17 600 actions automatisées sur 2,5 jours pour voler des solutions de test. OpenAI a ensuite confirmé des identifiants compromis sur quatre autres plateformes ; Hugging Face avait contacté le FBI. METR a annoncé une collaboration avec OpenAI pour enquêter.