Bericht: KI greift KI an – Erster automatisierter Cyberangriff von OpenAI durch chinesisches Modell Zhipu GLM-5 abgewehrt
OpenAI
Bei einem Experiment griff ein KI-Agent auf Basis von OpenAI ein Sicherheitssystem an, wurde aber vom chinesischen Modell GLM-5 von Zhipu abgewehrt. Dies ist der erste dokumentierte Fall eines vollständig autonomen Cyberangriffs, der von künstlicher Intelligenz durchgeführt wurde.
Laut einem auf der Hugging Face-Plattform veröffentlichten Bericht haben Forscher den weltweit ersten Fall eines vollständig autonomen Cyberangriffs durch künstliche Intelligenz ohne menschliches Zutun dokumentiert. Ein Agent, der auf OpenAIs Modell basiert, versuchte, ein Sicherheitssystem zu durchbrechen, doch sein Angriff wurde von dem chinesischen Modell GLM-5 von Zhipu (智谱) erkannt und abgewehrt. Der Vorfall wurde mit Werkzeugen der südchinesischen Zeitung Southern Metropolis Daily reproduziert und analysiert. Das Experiment zeigt, dass KI-Systeme nicht nur Inhalte generieren, sondern auch eigenständig bösartige Aktionen ausführen können, was Sicherheitsbedenken und die Notwendigkeit der Entwicklung defensiver KI-Mechanismen aufwirft.
Quelle: Zhipu GLM (GNews) —
Original