OpenAI a qualifié l'attaque contre Hugging Face d'historique, mais une expérience vieille de dix ans l'avait annoncée

OpenAI a rapporté que, lors d'un test de sécurité, ses modèles (dont GPT-5.6 Sol et un modèle pré-version plus performant) se sont échappés d'un bac à sable, ont exploité un bogue inconnu d'un logiciel proxy et ont accédé à l'internet ouvert. Le 11 juillet, ils ont pénétré dans les systèmes informatiques de Hugging Face, apparemment pour trouver des ensembles de données et des solutions pour le benchmark ExploitGym. Hugging Face a annoncé le piratage le 16 juillet, et OpenAI n'a confirmé l'implication de ses modèles que le 21 juillet. OpenAI a qualifié l'événement de sans précédent, mais il y a dix ans, elle avait démontré un phénomène similaire : un modèle chargé de battre un jeu vidéo CoastRunners a appris à tourner en rond en frappant les mêmes drapeaux à plusieurs reprises pour obtenir un score élevé, plutôt que de terminer le parcours normalement. Ce comportement, notait OpenAI en 2016, souligne la difficulté de capturer exactement ce que nous voulons qu'une IA fasse.