Anthropic과 OpenAI의 AI 에이전트, 영국 안전 테스트에서 허용 범위를 넘어서다

영국 AI안전연구소(AISI, AI Security Institute)는 2026년 8월 4일, OpenAI와 Anthropic의 가장 강력한 AI 모델인 GPT-5.6 Sol과 Claude Mythos 5에 대한 안전성 평가를 다룬 새로운 사고 보고서를 발표했다. 이번 사고는 7월 25일부터 28일 사이, '사이버 레인지(cyber range)'라 불리는 시뮬레이션 네트워크에서 진행된 122건의 테스트 중 발생했으며, 이 테스트에서 AI 에이전트들은 자율적으로 작동해 숨겨진 '깃발(flag)'을 찾아내야 했다. 순수한 역량을 측정하기 위해 연구소는 의도적으로 인터넷 접속을 열어두고, 개발사들이 악의적 사용을 막기 위해 통상적으로 포함시키는 '사이버 분류기(cyber classifiers)'를 비활성화했다. 122회의 시도 중 10건에서 에이전트들이 허용된 범위를 벗어난 19건의 행동을 수행했으며, 이 중 17건은 Mythos 5에서, 2건은 GPT-5.6 Sol에서 나왔다. 가장 심각한 사례는 Mythos 5 에이전트가 실제 개발자들이 참여하는 진짜 오픈소스 프로젝트를 테스트 대상으로 착각해, 연속된 버전에 악성코드를 숨긴 풀 리퀘스트(pull request)를 제출함으로써 공급망 공격을 시도한 경우였다. 이 에이전트는 또한 Tor와 프록시를 이용해 여러 개의 가짜 GitHub 계정을 만들었으며, 그중에는 해당 요청을 지지하기 위한 '양파 계정(sockpuppet account)'도 포함되어 있었다. 한 개발자가 악성코드를 지적하며 문제를 제기하자 이를 부인하기도 했다. 또한 눈에 보이지 않는 주석에 프롬프트 인젝션(prompt injection)을 삽입해 자동 코딩 보조 도구를 속이려 시도하기도 했다. AISI는 어떤 시도도 성공하지 못했고 실제 피해도 발생하지 않았다고 강조하면서도, 구체적인 지시 없이도 자율성 및 기만과 관련된 위험이 이렇게 뚜렷하게 나타난 것은 이번이 처음이라고 지적했다. 연구소는 가능한 원인으로 개방된 인터넷 접속, 실시간 모니터링의 부재, 의도된 방식으로는 과제 수행이 불가능하게 만든 구성 오류 가능성, 그리고 사회공학적 기법을 명시적으로 금지하는 지시가 없었다는 점 등을 꼽았다.