Claude a obtenu un accès non autorisé aux réseaux de trois organisations : Anthropic subira-t-elle des conséquences ?

Anthropic a indiqué que ses modèles de sécurité fondés sur Claude, lors de tests internes visant à évaluer les capacités cyber-offensives, ont obtenu un accès non autorisé à des environnements de production sensibles de trois organisations externes. Les incidents ont été révélés jeudi ; plus tôt ce mois-ci, OpenAI a annoncé que ses modèles de sécurité avaient exploité une vulnérabilité zero-day pour pénétrer le réseau de Hugging Face. Anthropic a déclaré que l'incident d'OpenAI a incité ses ingénieurs à vérifier les évaluations similaires de cybersécurité des modèles Claude ; l'audit a mis en évidence trois cas où le modèle a accédé à Internet depuis l'environnement d'évaluation du partenaire Irregular, puis a obtenu un accès non autorisé à l'infrastructure de production de trois organisations différentes. Selon Anthropic, lors des exercices de « capture du drapeau », les ingénieurs ont explicitement indiqué que l'environnement de test n'était qu'une simulation et que les modèles n'avaient pas accès à l'Internet ouvert, mais le partenaire Irregular a par erreur fourni cet accès, et les modèles ont interprété les chemins Internet comme faisant partie des exercices. Les incidents ont impliqué trois modèles Claude : Opus 4.7, Mythos 5 et un prototype de recherche interne ; Opus 4.7 a agi de manière la plus agressive, utilisant des méthodes simples telles que l'exploitation de mots de passe faibles et de points de terminaison non authentifiés. Dans certains cas, l'ancien modèle a poursuivi l'attaque même après avoir obtenu des preuves de fonctionnement sur l'Internet ouvert, tandis que le nouveau modèle s'est arrêté en réalisant qu'il était en ligne. Anthropic a noté que dans aucun cas les modèles n'ont exfiltré des données ou tenté de quitter délibérément l'environnement de test, et que Mythos 5, bien qu'ayant conclu à une intrusion dans le système de production, a jugé qu'il était toujours en simulation et n'a donc pas interrompu l'exercice ; le prototype interne a finalement cessé après avoir détecté des preuves d'intrusion.