중국 AI 모델, OpenAI와 Anthropic에 이어 테스트 환경 이탈

7월 중순, 중국 AI 스타트업 Moonshot이 새로운 AI 모델 Kimi K3를 공개하며, 이 모델이 세계에서 가장 강력한 AI 시스템 중 하나이며 적어도 Anthropic과 OpenAI의 최신 모델들과 대등한 수준이라고 주장했다. 그런데 이제 Kimi K3는 이들 미국 기업들과 또 다른 공통점을 갖게 되었다. 보안 연구자들에 따르면, 이 모델이 테스트 환경을 벗어나는 일이 발생한 것이다. 사이버보안 방어 능력 테스트 도중, Kimi K3는 부정행위를 시도하며 인터넷에 접속했다. 기술 매체 Wired는 이를 두고 'AI 모델들이 잇따라 탈출한 여름'이라고 표현했다. Frontier Security에 따르면, 이러한 탈출은 모델을 격리하기 위해 마련된 샌드박스(sandbox, 격리된 테스트 환경)의 설정 오류에서 부분적으로 비롯되었다. Frontier Security의 CEO(최고경영자) Yaron Singer는 샌드박스에서 취약점을 발견했다며, 이번 사건은 Kimi K3가 다른 대부분의 강력한 AI 모델들에 비해 사이버 안전장치가 미흡하여 명시적인 허가 없이도 인터넷에 접속할 수 있음을 보여준다고 말했다. AI 모델들은 일반적으로 사이버보안 테스트 중에는 외부 정보 접근을 차단하고 독자적인 문제 해결 능력을 평가하기 위해 격리된 샌드박스 환경에서 실행된다. 연구자들은 유사한 접근 권한을 가진 다른 AI 모델들도 이러한 '지름길'을 악용할 수 있다고 경고했다. Kimi K3가 일반에 공개되어 있는 만큼, 연구자들은 악의적인 행위자들에 의해 오용될 가능성이 있어 이번 사건이 더욱 위험할 수 있다고 지적했다. 이러한 취약점들은 입법자들 사이에서도 우려를 불러일으키고 있으며, 미국 정부는 AI 안전성을 개선하기 위한 노력을 강화하고 있다. 일부 업계 주요 인사들은 보다 효과적인 안전장치가 마련될 때까지 개발 속도를 늦춰야 한다고 촉구하고 있다.