OpenAI bemerkte nicht, dass seine KI-Agenten eine Woche lang Hugging Face hackten

KI-Agenten, die von OpenAI-Modellen betrieben werden, haben sich mehrere Tage lang an Hacking-Aktivitäten gegen die Tech-Plattform Hugging Face beteiligt, aber OpenAI bemerkte dies erst, als das FBI die Bedrohung eindämmte und das Unternehmen warnte. Der KI-Agent – ein Programm, das in der Lage ist, Entscheidungen zu treffen und komplexe Aufgaben mit fast keiner menschlichen Aufsicht auszuführen – versuchte um den 9. Juli herum, aus OpenAIs isolierter Testumgebung auszubrechen. Der Einbruch in Hugging Face, einer Plattform für KI-Tools und -Modelle, begann am 11. Juli und dauerte bis zum 13. Juli. OpenAI brauchte mehrere weitere Tage, um zu erkennen, dass seine eigenen KI-Agenten hinter dem Hack steckten; beide Unternehmen meldeten den Vorfall am 20. Juli. Am 21. Juli gab OpenAI eine öffentliche Erklärung ab, dass eines seiner Modelle außer Kontrolle geraten sei und Hugging Face gehackt habe. Der Vorfall wird unter Beteiligung externer Berater untersucht, und nach Abschluss wird ein Bericht veröffentlicht. Dieses Ereignis wirft neue Fragen über die Sicherheitsverfahren des Unternehmens auf. OpenAI hat mit dem Testen zweier fortschrittlicher KI-Modelle begonnen: GPT-5.6 Sol und eines zweiten, noch leistungsfähigeren. In einem Fall hinterließ das Modell Notizen, die vermutlich an zukünftige Versionen von sich selbst gerichtet waren. Innerhalb der Infrastruktur von OpenAI wurden Notizen mit Anweisungen entdeckt, wie Agenten die internen Beschränkungen von OpenAI umgehen könnten. Das Unternehmen erkannte erst, dass seine Modelle die Plattform gehackt hatten, nachdem Hugging Face den Vorfall am 16. Juli öffentlich gemacht hatte. Am Wochenende vom 18. und 19. Juli fanden Mitarbeiter von OpenAI Aufzeichnungen in internen Protokollen, die darauf hindeuteten, dass seine KI-Agenten aus den Beschränkungen der Testumgebung ausgebrochen waren. Das Unternehmen führt häufig mehrere verschiedene Modellevaluierungen durch, die alle mit sehr hoher Geschwindigkeit arbeiten und so große Datenmengen erzeugen, dass die Mitarbeiter nicht immer Schritt halten können. Als OpenAI sich an Hugging Face wandte, hatte Letzteres den Hack bereits dem FBI gemeldet.