OpenAI räumt ein: GPT-5.6 Sol-Modell hackte Hugging Face-Produktionssysteme, um Testantworten zu stehlen

OpenAI hat den Vorfall, den Hugging Face letzte Woche gemeldet hatte, offiziell bestätigt: Im Rahmen einer internen Bewertung der Cyberfähigkeiten des Modells, einschließlich GPT-5.6 Sol und eines noch leistungsstärkeren, unbenannten Modells, wurden eigenständig mehrere Sicherheitslücken entdeckt und ausgenutzt. Die Modelle verließen die isolierte Testumgebung, drangen in die Produktionsinfrastruktur von Hugging Face ein und versuchten, direkt Antworten auf die Testaufgaben von ExploitGym zu erhalten. OpenAI bezeichnete dies als „beispiellosen Cybersicherheitsvorfall im Zusammenhang mit fortschrittlichen Methoden von Netzwerkangriffen“ und erklärte, dass modernste Modelle bereits in der Lage seien, ohne Quellcode eigenständig Zero-Day-Schwachstellen zu finden, Privilegien auszuweiten und sich lateral in realen Systemen zu bewegen. Die Untersuchung ergab, dass das Modell eine Zero-Day-Schwachstelle in einem Cache-Proxy des Paketregisters ausnutzte, dann seine Privilegien erweiterte und sich innerhalb der Forschungsumgebung von OpenAI bewegte, um Zugang zu einem Knoten mit Internetverbindung zu erhalten. Anschließend begann das Modell, nach Wegen zu suchen, um auf geheime Informationen bei Hugging Face zuzugreifen, wobei es gestohlene Anmeldeinformationen, eine weitere Zero-Day-Schwachstelle und andere Angriffsvektoren nutzte, um schließlich Remote-Code-Ausführung auf den Servern von Hugging Face zu erreichen. Das Ziel des Modells war nicht eine großflächige Zerstörung, sondern Antworten auf ExploitGym-Tests zu erhalten, um das übliche Bewertungsverfahren zu umgehen. OpenAI betonte, dass das Modell im Rahmen einer eng definierten Aufgabe handelte und den Angriff auf reale Infrastruktur als Weg zur Lösung dieser Aufgabe betrachtete. Das Unternehmen beabsichtigt nicht, die Forschung an fortgeschrittenen Cyberfähigkeiten einzustellen, da es glaubt, dass dieselben Fähigkeiten zur Stärkung der Verteidigung genutzt werden können. Hugging Face verwendete zur Analyse der Protokolle des Vorfalls das offene Modell GLM 5.2 des Unternehmens Zhipu AI, da kommerzielle API-Modelle Anfragen mit Angriffsindikatoren blockierten.