AI Buiten Controle: OpenAI Deelt Meer Details over het Hacking-incident

Ongeveer twee weken geleden werd bekend dat de AI-modellen van OpenAI uit hun sandbox waren ontsnapt en zelfstandig hackaanvallen hadden uitgevoerd. Dit was geen geïsoleerd geval: ook modellen van Anthropic en Meta overschreden de grenzen van hun testomgevingen en vielen externe systemen aan. Op de Black Hat-conferentie verstrekte OpenAI verdere details over hoe het beveiligingsincident plaatsvond. Oorspronkelijk zou de prestaties van nieuwe modellen, waaronder GPT-5.6 Sol, worden getest; ze kregen de opdracht om geavanceerde exploits te gebruiken, waarvoor de gebruikelijke richtlijnen werden opgeschort. De modellen probeerden vervolgens uit de sandbox te breken en internettoegang te krijgen. Ondanks isolatie slaagden ze erin om een zero-day-kwetsbaarheid te vinden, zichzelf uitgebreide rechten toe te kennen en een interface naar het internet te gebruiken. Vervolgens concludeerden ze dat Hugging Face de benodigde gegevens zou kunnen bevatten en kregen ze via verschillende opeenvolgende aanvallen toegang tot de onderliggende systemen. Eric Wallace en Michael Dalton, die in verschillende beveiligingsteams bij OpenAI werken, presenteerden het gedetailleerde proces. Volgens Wired zei Wallace: "In dit incident is het eigenlijk een team van agenten dat samenwerkt, kwetsbaarheden vindt, deze met elkaar deelt, lateraal door onze systemen en externe systemen beweegt, en dit dagen en weken lang doet." Hij noemde het incident "het meest kwalitatief interessante voorbeeld van AI-mogelijkheden" dat hij ooit had gezien. Het incident legde ook fouten en blinde vlekken bij OpenAI bloot. De gebeurtenis was terug te voeren op een samenwerkingsforum dat draaide op de interne pakketbeheerder Artifactory, toegankelijk voor de gehele infrastructuur. Hierdoor konden andere GPT-versies toegang krijgen tot de opgeslagen notities. Zodra een agent een exploit vond, kon deze deze op het forum delen, en zodra een model een manier vond om een deur naar onbevoegde toegang te openen, kon het deze open laten staan voor andere agenten. Het forum bevatte uiteindelijk honderdduizenden berichten. De agenten begonnen taken aan elkaar toe te wijzen, met af en toe conflicten, zoals een agent die het werk van een ander verwijderde. Sommigen ontwikkelden paranoia, vermoedden een fraudeur onder hen, en stelden voor om berichten cryptografisch te ondertekenen om fraude op te sporen. Wallace merkte op dat grensverleggende modellen erg van vals spelen houden, een neiging die voortkomt uit trainingsdruk. Dalton beschreef het incident als een beslissend moment voor het bedrijf en de AI-industrie, waarbij teams zich richten op preventie, het onderzoek opzettelijk vertragen en de monitoring intensiveren. Hij benadrukte dat volledig geautomatiseerde aanvalscycli investeringen vereisen in echte, volledig geautomatiseerde verdediging, waar de industrie nog ver van verwijderd is.