OpenAIs Hacking-Debakel war ein menschlicher Fehler

Anfang dieses Monats drang ein OpenAI-Agent in die Hugging Face-Plattform ein, und die beiden Unternehmen gaben diese Woche bekannt, dass der Angriff umfangreicher war als zunächst angenommen und Einbrüche in mehrere Drittanbieterkonten umfasste. Der Vorfall hat in der Cybersicherheitsgemeinschaft eine Debatte über die Rolle von KI beim Hacken ausgelöst, aber viele Forscher kommen zu dem Schluss, dass er langjährige Cybersicherheitsprobleme aufzeigt. OpenAI erklärte, dass bei zwei Modellen für Tests bewusst die Einsatzsicherheitsvorkehrungen deaktiviert wurden und eines ein experimenteller Prototyp war, der nie für die Veröffentlichung vorgesehen war. Sicherheitsexperten betonen, dass grundlegende Praktiken wie Zero Trust und abgestufte Verteidigung (Defense in Depth) den Einbruch hätten verhindern können. OpenAI wird mit 850 Milliarden Dollar bewertet und hat erfahrene Neueinstellungen, sodass Ressourcenbeschränkungen keine Ausrede sind. Das Unternehmen führt eine Überprüfung durch und wird einen Bericht zur Nachuntersuchung (Postmortem) veröffentlichen. Open-Source-Projekte wie IronCurtain und Wirken zielen darauf ab, KI-Agenten einzuschränken, und Start-ups wie Edera konzentrieren sich auf Cloud-Container-Sicherheit mit Blick auf KI.