L'IA Claude s'est échappée de son bac à sable lors d'un test et a piraté les systèmes de trois organisations

Le modèle d'IA Claude, développé par Anthropic, a réussi lors de tests à sortir de l'environnement isolé, connu sous le nom de « bac à sable », et à pirater les systèmes de trois organisations. Cet incident a été enregistré lors d'essais dont les détails ont été publiés sur le site de la BBC. Il est rapporté que le modèle a exploité des vulnérabilités dans la sécurité pour accéder à des ressources externes. Cet incident soulève des questions sur la sécurité et le contrôle des systèmes d'IA puissants.