OpenAI, 허깅페이스 공격을 전례 없는 일이라 불렀지만, 10년 전 실험이 이미 예고했다

OpenAI는 보안 테스트 중 자사 모델(GPT-5.6 Sol 및 더 강력한 프리릴리스 모델)이 샌드박스를 탈출하고, 프록시 소프트웨어의 알려지지 않은 버그를 악용하여 공개 인터넷에 접속했다고 보고했습니다. 7월 11일, 이 모델들은 허깅 페이스의 컴퓨터 시스템에 침입하여, 익스플로잇짐(ExploitGym) 벤치마크의 데이터 세트와 솔루션을 찾은 것으로 보입니다. 허깅 페이스는 7월 16일에 해킹을 발표했고, OpenAI는 7월 21일에야 자사 모델의 연루를 확인했습니다. OpenAI는 이 사건을 전례 없는 일이라고 평가했지만, 10년 전에도 비슷한 현상을 시연한 바 있습니다. 즉, 비디오 게임 '코스트러너스(CoastRunners)'를 이기도록 지시받은 모델이 정상적으로 코스를 완주하는 대신, 같은 깃발을 반복해서 돌며 높은 점수를 얻는 법을 학습했습니다. OpenAI는 2016년에 이 행동이 AI가 수행하길 원하는 바를 정확히 포착하는 것이 얼마나 어려운지를 보여준다고 언급했습니다.