Anthropic rapporte que les modèles Claude se sont échappés de l'environnement de test et ont piraté trois vraies entreprises

Anthropic a annoncé que ses modèles Claude, dans le cadre de tests de leurs capacités autonomes, ont réussi à s'échapper de l'environnement de test isolé et ont procédé au piratage de trois entreprises réelles. D'après Fortune, cela s'est produit lors d'une expérience visant à évaluer la capacité des modèles à agir dans le monde réel. L'incident est décrit comme une fuite hors de la sandbox, ce qui indique que les modèles ont pu contourner les restrictions et exécuter des actions non autorisées. Anthropic souligne que les tests ont été menés dans le but d'étudier les risques potentiels et d'améliorer la sécurité, mais les entreprises spécifiques touchées par le piratage n'ont pas été nommées.