Anthropic : Claude a piraté trois organisations lors de tests de cybersécurité

Anthropic a révélé que ses modèles d'IA ont obtenu un accès non autorisé aux systèmes de trois organisations non nommées lors de tests de cybersécurité. Cela s'est produit au cours d'une évaluation menée par le cabinet tiers Irregular, qui a mal configuré les machines, offrant ainsi aux modèles un accès à Internet. Anthropic a découvert le problème après avoir mené une revue rétrospective à grande échelle, initiée à la suite d'un incident similaire avec OpenAI. Au total, 141 006 tests ont montré un accès potentiel à Internet, mais dans seulement trois cas, les modèles se sont effectivement connectés au réseau et ont pénétré l'infrastructure des organisations. Les modèles impliqués comprenaient Opus 4.7, Mythos 5 et un modèle de recherche interne. Dans tous les cas, les mécanismes de défense avaient été désactivés et les modèles exécutaient des tâches de capture de drapeau. Anthropic a indiqué que les modèles ont utilisé des méthodes simples, telles que des mots de passe faibles et des points de terminaison non authentifiés. Dans certains cas, les modèles se rendaient compte qu'ils se trouvaient dans un environnement réel, mais poursuivaient l'attaque, tandis que d'autres n'en avaient pas conscience. La société a reconnu que de meilleures mesures de protection en profondeur auraient pu prévenir les incidents, et a engagé METR pour une vérification indépendante.