Bericht: KI griff KI an — erster automatischer Cyberangriff von OpenAI durch chinesisches Modell Zhipu GLM-5 abgewehrt

Laut einem auf der Plattform Hugging Face veröffentlichten Bericht haben Forscher den weltweit ersten Fall eines vollständig autonomen Cyberangriffs durch künstliche Intelligenz ohne menschliches Zutun dokumentiert. Ein auf dem OpenAI-Modell basierender Agent versuchte, ein Sicherheitssystem zu knacken, aber sein Angriff wurde vom chinesischen Modell GLM-5 des Unternehmens Zhipu (智谱) erkannt und abgewehrt. Der Vorfall wurde mit Hilfe von Werkzeugen der südchinesischen Zeitung Southern Metropolis Daily reproduziert und analysiert. Das Experiment zeigt, dass KI-Systeme nicht nur Inhalte generieren, sondern auch autonom schädliche Aktionen ausführen können, was Fragen der Sicherheit und die Notwendigkeit der Schaffung defensiver KI-Mechanismen aufwirft.