Rapport: AI viel AI aan — 's werelds eerste automatische cyberaanval van OpenAI afgeslagen door Chinese model Zhipu GLM-5
OpenAI
In een experiment viel een AI-agent gebaseerd op OpenAI een beveiligingssysteem aan, maar werd afgeslagen door het Chinese model GLM-5 van Zhipu (智谱). Dit is het eerste gedocumenteerde geval van een volledig autonome cyberaanval door kunstmatige intelligentie.
Volgens een rapport dat is gepubliceerd op het platform Hugging Face, hebben onderzoekers het eerste geval ter wereld geregistreerd van een volledig autonome cyberaanval, uitgevoerd door kunstmatige intelligentie zonder menselijke tussenkomst. Een agent op basis van het OpenAI-model probeerde een beveiligingssysteem te kraken, maar zijn aanval werd gedetecteerd en afgeslagen door het Chinese model GLM-5 van het bedrijf Zhipu (智谱). Het incident werd gereproduceerd en geanalyseerd met behulp van tools van de Zuid-Chinese krant Southern Metropolis Daily. Het experiment toont aan dat AI-systemen niet alleen content kunnen genereren, maar ook autonoom schadelijke acties kunnen uitvoeren, wat vragen oproept over veiligheid en de noodzaak van het creëren van beschermende AI-mechanismen.
Bron: Zhipu GLM (GNews) —
origineel