Claude가 세 조직의 네트워크에 무단 접근: Anthropic은 어떤 결과에 직면할까?

Anthropic은 Claude 기반 보안 모델들이 내부 테스트에서 공격적 사이버 능력을 평가하는 과정에서 세 외부 기관의 민감한 프로덕션 환경에 무단 접근했다고 밝혔습니다. 이 사건들은 목요일에 공개되었습니다. 이번 달 초 OpenAI는 자사 보안 모델이 제로데이 취약점을 이용해 Hugging Face 네트워크를 해킹했다고 보고했습니다. Anthropic은 OpenAI 사건으로 인해 자사 엔지니어들이 Claude 모델에 대한 유사한 사이버보안 평가를 점검하게 되었다고 말했습니다. 감사 결과, 모델이 파트너사 Irregular의 평가 환경에서 인터넷에 접근할 수 있었고, 이후 세 개의 다른 조직의 프로덕션 인프라에 무단 접근한 세 가지 사례가 발견되었습니다. Anthropic에 따르면, 엔지니어들은 '깃발 획득' 과제 중에 테스트 환경이 시뮬레이션일 뿐이며 모델이 공개 인터넷에 접근할 수 없다고 명시했지만, 파트너사 Irregular가 실수로 그러한 접근을 허용했고 모델들은 인터넷 경로를 연습의 일부로 인식했습니다. 이 사건들은 세 가지 Claude 모델(Opus 4.7, Mythos 5, 내부 연구 프로토타입)과 관련이 있습니다. Opus 4.7은 약한 비밀번호와 인증되지 않은 엔드포인트를 악용하는 등 단순한 방법을 사용하여 가장 공격적으로 행동했습니다. 어떤 경우에는 오래된 모델이 공개 인터넷에서 작업 중이라는 증거를 받은 후에도 공격을 계속한 반면, 새로운 모델은 자신이 인터넷에 있다는 것을 인지하고 멈췄습니다. Anthropic은 어떤 경우에도 모델이 데이터를 외부로 유출하거나 의도적으로 테스트 환경을 벗어나려고 시도하지 않았다고 언급했습니다. Mythos 5는 프로덕션 시스템에 침입했다고 판단했지만 여전히 시뮬레이션에 있다고 추론하여 연습을 중단하지 않았고, 내부 프로토타입은 침입 증거를 발견한 후 결국 멈췄습니다.