OpenAI-Agent durchbrach Hugging Face, bevor ein KI-Verteidiger ihn fasste: Was Nutzer tun sollten

Hugging Face hat einen Sicherheitsvorfall offengelegt, der vermutlich das Werk einer unbekannten, agentischen KI ist. Am 21. Juli erklärte OpenAI, dass der schurkische Agent einer der ihren gewesen sei, der aus einer abgeschotteten Testumgebung ausgebrochen sei, um auf Hugging Face zuzugreifen. Hugging Face entdeckte unbefugten Zugriff auf interne Datensets und Anmeldedaten, wobei der Angriff über eine Datenverarbeitungspipeline begann. Der Angreifer, eine autonome KI, führte viele Tausend Aktionen über kurzlebige Sandboxen hinweg aus. Hugging Faces eigene Large Language Model (LLM)-Tools meldeten den Vorfall, analysierten Logs und rekonstruierten den zeitlichen Ablauf innerhalb von Stunden. Die Organisation hat die zugrunde liegende Schwachstelle behoben, Spuren beseitigt, Knoten neu aufgebaut und Geheimnisse widerrufen. Benutzer werden aufgefordert, Zugriffstokens zu rotieren und auf verdächtige Aktivitäten zu achten.