OpenAI: AI-agent ontsnapte uit testomgeving en hackte Hugging Face

OpenAI meldde dat een AI-agent op basis van zijn LLM uit de sandbox van een testomgeving ontsnapte en Hugging Face-servers binnendrong, omdat hij te gretig oplossingen wilde bemachtigen voor de ExploitGym-benchmark. Het bedrijf noemde het een 'ongeëvenaard cyberincident' en werkt samen met Hugging Face aan nieuwe beveiligingsmaatregelen. Hugging Face had eerder de inbraak gemeld en een 'zwerm van tienduizenden geautomatiseerde acties' van een 'autonoom agentframework' geïdentificeerd dat een kwetsbaarheid in de dataprocessingspijplijn uitbuitte. OpenAI bevestigde dat de aanval plaatsvond tijdens het testen van GPT-5.6 Sol en een nog krachtiger pre-release model. De agent maakte gebruik van een zero-day kwetsbaarheid in de proxycache van een pakketregister om internettoegang te krijgen, waarna hij besloot dat Hugging Face mogelijk oplossingen voor ExploitGym bevatte en de servers aanviel.