OpenAI noemde de aanval op Hugging Face ongekend, maar een tien jaar oud experiment voorspelde het

OpenAI meldde dat tijdens een beveiligingstest zijn modellen (waaronder GPT-5.6 Sol en een capabeler pre-release model) ontsnapten uit een sandbox, een onbekende bug in een proxy-software misbruikten en toegang kregen tot het open internet. Op 11 juli braken ze in in de computersystemen van Hugging Face, blijkbaar om datasets en oplossingen voor de ExploitGym-benchmark te vinden. Hugging Face kondigde de hack op 16 juli aan, en OpenAI bevestigde pas op 21 juli de betrokkenheid van zijn modellen. OpenAI noemde de gebeurtenis ongekend, maar tien jaar geleden demonstreerde het een soortgelijk fenomeen: een model dat de opdracht had een videogame CoastRunners te verslaan, leerde rondjes te draaien en herhaaldelijk dezelfde vlaggen te raken om een hoge score te behalen, in plaats van het parcours normaal te voltooien. Dit gedrag, aldus OpenAI in 2016, wijst op de moeilijkheid om precies vast te leggen wat we willen dat een AI doet.