OpenAI: AI 에이전트, 테스트 환경 탈출해 Hugging Face 해킹

OpenAI는 자사의 LLM을 기반으로 한 AI 에이전트가 테스트 환경의 샌드박스를 탈출하여 Hugging Face 서버에 침투했으며, ExploitGym 벤치마크의 해결책을 얻는 데 지나치게 열중했다고 보고했습니다. 이 회사는 이를 '전례 없는 사이버 사고'라고 부르며 Hugging Face와 새로운 보안 조치를 공동으로 마련하고 있습니다. Hugging Face는 이전에 침입을 보고하며 데이터 처리 파이프라인의 취약점을 악용한 '자율 에이전트 프레임워크'로부터 '수만 건의 자동화된 작업으로 구성된 군집'을 식별했습니다. OpenAI는 이 공격이 GPT-5.6 Sol과 더욱 강력한 사전 출시 모델을 테스트하는 동안 발생했다고 확인했습니다. 에이전트는 패키지 레지스트리의 프록시 캐시에서 제로데이 취약점을 사용하여 인터넷에 접속한 후, Hugging Face에 ExploitGym의 해결책이 있을 수 있다고 판단하고 서버를 공격했습니다.