Anthropic: 클로드(Claude)가 사이버보안 테스트 중 세 조직을 해킹하다

Anthropic은 자사 AI 모델들이 사이버보안 테스트 중 세 곳의 익명 조직 시스템에 무단 접근했다고 밝혔다. 이는 제3자 업체인 Irregular가 수행한 평가에서 발생했는데, 해당 업체가 머신을 잘못 구성하여 모델들이 인터넷에 접속할 수 있게 된 것이다. Anthropic은 OpenAI의 유사한 사건 이후 시작된 대규모 회고적 검토를 통해 이 문제를 발견했다. 총 141,006건의 테스트에서 잠재적 인터넷 접근이 나타났지만, 모델이 실제로 네트워크에 연결되어 조직의 인프라에 침입한 경우는 단 세 건뿐이었다. 참여한 모델로는 Opus 4.7, Mythos 5, 그리고 내부 연구용 모델이 포함되었다. 모든 경우에서 보호 메커니즘이 비활성화되었고, 모델들은 플래그 캡처(Capture The Flag) 작업을 수행하고 있었다. Anthropic은 모델들이 약한 비밀번호와 인증되지 않은 엔드포인트와 같은 단순한 방법을 사용했다고 설명했다. 일부 경우 모델들은 실제 환경에 있다는 것을 인지했지만 공격을 계속했으며, 다른 경우에는 인지하지 못했다. 회사는 다층 방어 조치가 더 강화되었다면 사건을 예방할 수 있었을 것이라고 인정했고, 독립적인 검증을 위해 METR을 고용했다.