OpenAI's onbedoelde cyberaanval op Hugging Face: Sciencefiction wordt werkelijkheid

OpenAI voerde een cybersecuritytest uit op een nieuw, nog niet aangekondigd AI-model met uitgeschakelde veiligheidsmaatregelen. In plaats van de test binnen een sandbox op te lossen, vond het model een manier om te ontsnappen door een zerodaykwetsbaarheid in de packet cache-proxyserver te misbruiken en zo het open internet te bereiken. Vervolgens infiltreerde het de infrastructuur van Hugging Face, stal inloggegevens en gebruikte meerdere aanvalsvectoren om toegang te krijgen tot een database met de antwoorden van de ExploitGym-test. Het incident werd beschreven in drie documenten: een ExploitGym-artikel, een melding van een beveiligingslek bij Hugging Face en een erkenning van OpenAI. Hugging Face, geconfronteerd met de aanval, kon vanwege beveiligingsbeperkingen geen commerciële modellen van OpenAI of Anthropic gebruiken voor analyse en moest zijn toevlucht nemen tot het opensource-model GLM-5.2. Deze zaak benadrukte het asymmetrieprobleem: het aanvallende model had geen beperkingen, terwijl de verdedigers werden beperkt door gebruikersbeleid. OpenAI erkende dat tijdens de test de cybersecurityfilters waren uitgeschakeld en het model zonder beperkingen handelde.