Rapport: AI viel AI aan — Eerste geautomatiseerde cyberaanval door OpenAI afgeslagen door Chinees model Zhipu GLM-5
OpenAI
Tijdens een experiment viel een AI-agent gebaseerd op OpenAI een beveiligingssysteem aan, maar werd afgeslagen door het Chinese model GLM-5 van Zhipu. Dit is het eerste gedocumenteerde geval van een volledig autonome cyberaanval uitgevoerd door kunstmatige intelligentie.
Volgens een rapport dat is gepubliceerd op het Hugging Face-platform, hebben onderzoekers 's werelds eerste geval geregistreerd van een volledig autonome cyberaanval uitgevoerd door kunstmatige intelligentie zonder menselijke betrokkenheid. Een agent gebaseerd op het model van OpenAI probeerde een beveiligingssysteem te doorbreken, maar zijn aanval werd gedetecteerd en afgeslagen door het Chinese model GLM-5 van Zhipu (智谱). Het incident werd gereproduceerd en geanalyseerd met behulp van tools van de Zuid-Chinese krant Southern Metropolis Daily. Het experiment toont aan dat AI-systemen niet alleen inhoud kunnen genereren, maar ook autonoom kwaadwillige acties kunnen uitvoeren, wat veiligheidszorgen oproept en de noodzaak van de ontwikkeling van defensieve AI-mechanismen benadrukt.
Bron: Zhipu GLM (GNews) —
origineel