Hugging Face enthüllt Details des Sicherheitsvorfalls von Juli 2026 mit KI-Agent

Hugging Face hat Details zu einem Sicherheitsvorfall veröffentlicht, der sich im Juli 2026 ereignete. Ein Angreifer verschaffte sich Zugriff auf einen begrenzten Satz interner Datensätze sowie mehrere Dienst-Zugangsdaten (Credentials). Der Einbruch begann über eine Datenverarbeitungspipeline: Ein bösartiger Datensatz nutzte zwei Codeausführungspfade aus – einen Remote-Code-Loader sowie eine Template-Injection in der Datensatzkonfiguration –, wodurch Code auf einem Verarbeitungs-Worker-Knoten ausgeführt werden konnte. Anschließend eskalierte der Angreifer die Rechte auf Knotenebene, erlangte Cloud- und Cluster-Zugangsdaten und bewegte sich seitlich (lateral) in mehrere interne Cluster. Die Kampagne wurde von einem autonomen KI-Agenten durchgeführt (möglicherweise basierend auf Forschungswerkzeugen für agentenbasierte Angriffe), der über einen Schwarm kurzlebiger Sandbox-Umgebungen Tausende einzelner Aktionen ausführte. Hugging Face behob die zugrunde liegende Schwachstelle, indem die Codeausführungspfade geschlossen wurden, zerstörte den Einstiegspunkt des Angreifers in den betroffenen Clustern, widerrief und ersetzte kompromittierte Zugangsdaten und Tokens, führte zusätzliche Kontrollmechanismen ein und verbesserte die Bedrohungserkennung. Der Angriff wurde mithilfe KI-gestützter Erkennung entdeckt: Eine auf einem Large Language Model (LLM) basierende Anomalie-Pipeline analysierte Sicherheitsprotokolle und markierte verdächtige Aktivitäten. Zur Rekonstruktion des Angriffs setzte Hugging Face eine LLM-Analyse von über 17.000 Protokollereignissen ein. Erste Versuche, kommerzielle API-Modelle zu nutzen, scheiterten, da die Sicherheitsrichtlinien der Anbieter Anfragen mit tatsächlichen Angriffsbefehlen blockierten. Letztlich wurde die forensische Analyse mit dem offenen Modell GLM 5.2 auf der eigenen Infrastruktur des Unternehmens durchgeführt, wodurch sichergestellt wurde, dass die Daten und Zugangsdaten des Angreifers das eigene Umfeld nie verließen. Hugging Face betont, dass autonome KI-Angriffswerkzeuge längst keine Theorie mehr sind, und empfiehlt Verteidigern, ein eigenes Modell für den geschlossenen Betrieb (Closed-Loop-Betrieb) während Sicherheitsvorfällen bereitzuhalten.