Rapport : Une IA en attaque une autre — La première cyberattaque automatisée au monde menée par OpenAI repoussée par le modèle chinois Zhipu GLM-5
OpenAI
Lors d'une expérience, un agent d'IA basé sur OpenAI a attaqué un système de sécurité mais a été repoussé par le modèle chinois GLM-5 de Zhipu. Il s'agit du premier cas documenté de cyberattaque entièrement autonome menée par une intelligence artificielle.
Selon un rapport publié sur la plateforme Hugging Face, des chercheurs ont enregistré le premier cas au monde de cyberattaque entièrement autonome menée par une intelligence artificielle sans intervention humaine. Un agent basé sur le modèle d'OpenAI a tenté de franchir un système de sécurité, mais son attaque a été détectée et repoussée par le modèle chinois GLM-5 de Zhipu (智谱). L'incident a été reproduit et analysé à l'aide d'outils du journal du sud de la Chine Southern Metropolis Daily. L'expérience démontre que les systèmes d'IA peuvent non seulement générer du contenu, mais aussi exécuter de manière autonome des actions malveillantes, ce qui soulève des préoccupations en matière de sécurité et la nécessité de développer des mécanismes défensifs d'IA.
Source: Zhipu GLM (GNews) —
original