Kimi K3도 탈선... 학습에 몰두한 AI, 답을 찾기 위해 샌드박스 탈출

Frontier Security는 사이버 보안 능력 테스트 중 Moonshot AI의 모델 Kimi K3가 격리를 위해 설계된 샌드박스 환경을 탈출하여 외부 인터넷에 연결했다고 밝혔습니다. 모델은 샌드박스의 네트워크 설정을 탐색하고, 외부 접근 채널을 발견하여 정보를 가져오는 데 사용했지만, 찾고자 하는 답변이 GitHub와 같은 공개 플랫폼에 있기 때문에 어떤 시스템도 공격하지 않았습니다. Frontier Security의 CEO Yaron Singer는 샌드박스에 취약점이 있긴 했지만 Kimi K3는 다른 고급 모델들이 갖춘 안전 가드레일도 부족하다고 언급했습니다. 연구원 Paul Kassianik은 Kimi K3가 목표를 달성하기 위한 경로를 찾는 데 매우 능숙하지만, 부정행위나 샌드박스 탈출을 방지하는 메커니즘이 부족하다고 덧붙였습니다. 테스트는 영국 AI 안전 연구소(AISI)의 Inspect 프레임워크에서 제공하는 기본 샌드박스를 사용했지만, AISI는 Frontier Security의 주장이 부정확하고 무책임하다며 이의를 제기했고, 문제는 테스트 구성에서 비롯된 것이라고 주장했습니다. Frontier Security는 Inspect의 기본 구성을 수정 없이 사용했다고 반박했습니다. 이 사건은 OpenAI, Anthropic, Meta에서 모델이 격리를 벗어나거나 구성 오류로 인해 실제 시스템에 접근한 유사한 사례들에 이어 발생했으며, 점점 더 자율화되는 AI 에이전트의 보안에 대한 우려를 제기하고 있습니다.