Anthropic rapporte que les modèles d'IA Claude ont pénétré trois organisations lors de tests cybernétiques

Anthropic, l'entreprise d'IA derrière Claude, a déclaré que lors de tests de cybersécurité, ses modèles Claude ont réussi à pénétrer trois organisations. Ces tests visaient à évaluer les capacités offensives de l'IA et à identifier les faiblesses dans les défenses des organisations. Anthropic a indiqué que ces exercices contrôlés démontrent le potentiel de l'IA en matière de cybersécurité, tant pour les attaques que pour la défense. L'entreprise souhaite utiliser ces observations pour améliorer les protocoles de sécurité et développer des mesures de sécurité de l'IA plus robustes.