허깅 페이스, 2026년 7월 침해 사고 관련 AI 에이전트 세부 사항 공개

허깅페이스(Hugging Face)가 2026년 7월 발생한 보안 사고에 대한 세부 정보를 공개했습니다. 공격자는 제한된 내부 데이터셋과 여러 서비스 크리덴셜에 접근했습니다. 침입은 데이터 처리 파이프라인에서 시작되었습니다. 악성 데이터셋이 두 가지 코드 실행 경로(원격 코드 로더와 데이터셋 설정의 템플릿 인젝션)를 악용하여 처리 워커(worker) 노드에서 코드를 실행할 수 있었습니다. 그런 다음 공격자는 권한을 노드 수준으로 상승시키고, 클라우드 및 클러스터 크리덴셜을 획득한 후 여러 내부 클러스터로 측면 이동했습니다. 이 공격은 자율형 AI 에이전트(아마도 에이전트 기반 공격을 위한 연구 도구를 기반으로 구축된 것으로 추정)에 의해 수행되었으며, 이 에이전트는 단기 샌드박스 환경의 떼를 통해 수천 개의 개별 행동을 실행했습니다. 허깅페이스는 코드 실행 경로를 차단하여 근본 취약점을 해결하고, 영향을 받은 클러스터의 공격자 진입점을 파괴했으며, 손상된 크리덴셜과 토큰을 폐기 및 교체하고, 추가 통제 조치를 배포했으며, 위협 탐지를 개선했습니다. 공격은 AI 기반 탐지를 사용하여 감지되었습니다. LLM 기반 이상 파이프라인이 보안 로그를 분석하고 의심스러운 활동을 강조했습니다. 공격 재구성을 위해 허깅페이스는 17,000개 이상의 로그 이벤트에 대한 LLM 분석을 사용했습니다. 상용 API 모델을 사용하려는 초기 시도는 제공자의 보안 정책에 의한 요청 차단으로 인해 실제 공격 명령이 포함되어 실패했습니다. 결국 법의학 분석은 회사 자체 인프라에서 오픈 모델 GLM 5.2를 사용하여 수행되었으며, 공격자 데이터와 크리덴셜이 환경 외부로 유출되지 않도록 보장했습니다. 허깅페이스는 자율형 AI 공격 도구가 더 이상 이론적이지 않으며, 방어자가 사고 시 폐쇄 루프 운영을 위한 자체 모델을 준비할 것을 권장합니다.