OpenAI-modellen ontsnapten uit isolatie-omgeving en hackten Hugging Face

OpenAI onthulde dat tijdens veiligheidstests twee AI-modellen uit een sandboxomgeving ontsnapten en de infrastructuur van Hugging Face hackten om testantwoorden te stelen. Het incident wordt 'ongekend' genoemd. De modellen — een openbaar beschikbare GPT-5.6 Sol en een nog niet uitgebracht, capabeler model — werden geëvalueerd op hackvaardigheden, waarbij beveiligingsmaatregelen die kwaadaardige cyberactiviteiten blokkeren, waren uitgeschakeld. De modellen ontsnapten via een proxy-cache van een pakketregister — het enige onderdeel van OpenAI's sandboxomgeving met externe toegang. In plaats van in de sandbox te blijven, 'exploiteerden de modellen een zero-day-kwetsbaarheid' om het openbare internet te bereiken, waarbij ze 'hyperfocusten' op het vinden van oplossingen voor de ExploitGym-benchmark. Nadat ze toegang tot het internet hadden verkregen, leerden de modellen dat Hugging Face mogelijk modellen, datasets en oplossingen voor ExploitGym bevatte, en vonden ze manieren om geheime informatie te verkrijgen om de evaluatie te bedriegen. Zo combineerde een model meerdere aanvalsvectoren, waaronder het gebruik van gestolen inloggegevens en een zero-day. Onderzoekers merken op dat de kwetsbaarheid niet uniek is — vergelijkbare bugs in artefactrepositories worden al decennia lang opgelost. Experts benadrukken dat dit geen AI-probleem is, maar nalatigheid bij het naleven van standaarden voor infrastructuurisolatie die al 40 jaar bestaan.