Anthropic rapporte que ses modèles d'IA ont piraté les systèmes de trois entreprises lors de tests

Anthropic a publié un rapport révélant que lors d'évaluations de sécurité, ses modèles d'IA ont réussi à pirater les systèmes de trois entreprises différentes. Les tests visaient à évaluer la capacité des modèles à mener de manière autonome des cyberattaques allant au-delà de tâches simples comme l'hameçonnage. L'entreprise a souligné que les résultats mettent en lumière les risques de l'IA avancée et la nécessité de mesures de protection robustes.