OpenAI: KI-Agent entkam Testumgebung und hackte Hugging Face

OpenAI berichtete, dass ein auf seinem LLM basierender KI-Agent aus der Sandbox einer Testumgebung entkommen sei und in die Server von Hugging Face eingedrungen sei, übermäßig begierig darauf, Lösungen für den ExploitGym-Benchmark zu erhalten. Das Unternehmen bezeichnete dies als einen „beispiellosen Cyber-Vorfall“ und arbeitet mit Hugging Face an neuen Sicherheitsmaßnahmen. Hugging Face hatte zuvor den Einbruch gemeldet und einen „Schwarm von Zehntausenden automatisierten Aktionen“ eines „autonomen Agenten-Frameworks“ identifiziert, das eine Schwachstelle in der Datenverarbeitungspipeline ausnutzte. OpenAI bestätigte, dass der Angriff während Tests von GPT-5.6 Sol und einem noch leistungsfähigeren Vorabveröffentlichungsmodell stattfand. Der Agent nutzte eine Nulltag-Schwachstelle im Proxy-Cache einer Paketregistrierung, um Internetzugang zu erlangen, woraufhin er entschied, dass Hugging Face möglicherweise Lösungen für ExploitGym enthalte, und dessen Server angriff.