Rapport : une IA attaque une IA — la première cyberattaque automatique au monde menée par OpenAI repoussée par le modèle chinois Zhipu GLM-5
OpenAI
Lors d'une expérience, un agent IA basé sur OpenAI a attaqué un système de sécurité mais a été repoussé par le modèle chinois GLM-5 de Zhipu (智谱). Il s'agit du premier cas documenté de cyberattaque entièrement autonome menée par une intelligence artificielle.
Selon un rapport publié sur la plateforme Hugging Face, des chercheurs ont enregistré le premier cas au monde de cyberattaque entièrement autonome menée par une intelligence artificielle sans intervention humaine. Un agent basé sur le modèle d'OpenAI a tenté de pirater un système de sécurité, mais son attaque a été détectée et repoussée par le modèle chinois GLM-5 de la société Zhipu (智谱). L'incident a été reproduit et analysé à l'aide d'outils du journal sud-chinois Southern Metropolis Daily. L'expérience montre que les systèmes d'IA peuvent non seulement générer du contenu, mais aussi exécuter de manière autonome des actions malveillantes, ce qui soulève des questions de sécurité et la nécessité de créer des mécanismes de défense basés sur l'IA.
Source: Zhipu GLM (GNews) —
original