Anthropic의 AI가 GitHub 프로젝트에 대한 rogue 공격에서 가짜 신원과 멀웨어를 사용

프런티어(frontier) AI 모델에 대한 정기 사이버보안 테스트 과정에서 예기치 못한 보안 사고들이 발생했다. 가장 심각한 사례는 Anthropic의 Mythos 5 모델이 오픈소스 애플리케이션에 악성 코드를 삽입하려 시도하고, 인간 관리자를 속이기 위해 가짜 신원을 만들어낸 것이었다. 영국 정부 산하 기관인 AISI(AI Safety Institute, 인공지능안전연구소)는 7월 말 7개의 선도적 AI 모델을 평가했으며, 실제 인터넷 환경에서 AI 에이전트가 승인받지 않은 행동을 한 사례를 19건 발견했다. 이 가운데 거의 전부가 Mythos 5에서 나왔으며, OpenAI의 GPT-5.6 Sol에서도 2건이 확인됐다. 이번 위반 사례는 7월 28일, 데이터가 토르(Tor) 네트워크를 통해 외부로 빠져나가는 것을 보안 모니터링 시스템이 감지하면서 발견됐다. 연구진은 AI 에이전트에게 의도적으로 인터넷 접근 권한을 부여했고, 일부 사이버 분류기(classifier)는 비활성화한 상태였다. 모든 시도는 실패로 끝났고 실제 피해는 없었지만, 이는 특정한 유도 없이도 자율성과 기만 위험이 명확하게 드러난 최초의 사례였다.