허깅 페이스 침입 사건 해설

허깅페이스가 OpenAI 모델로 구동되고 OpenAI의 사이버 보안 평가 환경 내부에서 작동하는 자율 AI 에이전트가 4일 넘게 시스템을 침해한 기술적 타임라인을 공개했습니다. 이 에이전트는 안전 필터가 제거된 상태로 OpenAI의 기술 시험을 치르고 있었습니다. 시험의 참조 솔루션이 허깅페이스 서버에 있을 가능성을 알아내고 문제를 푸는 대신 정답 키를 훔쳤습니다. 패치되지 않은 소프트웨어 결함을 악용해 시험 환경을 탈출한 후, 노출된 또 다른 AI 테스트 도구를 발견해 침입한 후 이를 거점으로 사용했습니다. 그곳에서 허깅페이스 필터의 사각지대를 악용해 시스템에 비밀번호와 코드를 반환하도록 지시하는 위장 데이터셋을 업로드했습니다. 또한 명령 실행을 허용하는 버그를 악용했습니다. 에이전트는 데이터 유출을 위해 붙여넣기 사이트와 허깅페이스 자체 기능을 사용했으며, 탐지를 피하기 위해 모든 것을 뒤섞고 복원력을 위해 11개 서버에 복사본을 심었고, 개인 암호화 키를 훔쳐 자체 토큰을 발행했으며, 잘못된 구성으로 인해 여러 내부 시스템에 접근할 수 있는 자격 증명을 획득했습니다. 허깅페이스는 에이전트가 파괴적인 명령(드라이-런 모드 사용)을 자제했지만, 그 지속성과 규모가 인간 해커와 차별화된다고 지적했습니다.