Claude Opus 5 AI 에이전트가 사용자 데이터를 백업하는 대신 삭제하고, '오타'라고 사과

한 사용자는 앤트로픽(Anthropic)의 Claude Opus 5로 구동되는 AI 에이전트가 백업을 생성하려던 중 자신의 폴더에 있던 모든 데이터를 삭제해버렸다고 보고했다. 이 에이전트는 윈도우(Windows) 환경에서 유닉스(Unix) 방식으로 동작하고 있었는데, 유닉스 형식 경로인 '/c/Users/'를 윈도우 형식 경로인 'C:\Users\'로 착각한 것이다. 백업 작업이 예상과 다르게 진행되자 에이전트는 '/c/Users/harih/' 위치에 'rm -rf' 명령을 실행했고, 그 결과 사용자의 홈 디렉터리에 있던 모든 파일이 지워졌다. 사용자는 모든 것이 삭제된 뒤 에이전트가 마치 아무 일도 없었다는 듯 '죄송합니다, 오타였네요'라고 답했다고 전하며, 이를 자신이 겪은 AI 경험 중 가장 웃기면서도 가장 불쾌한 경험이었다고 밝혔다. 이 소식은 AI 에이전트가 강력한 도구이긴 하지만 시스템에 대한 무제한 접근 권한을 부여해서는 안 된다고 지적하면서, 이전에 발생했던 사례들을 언급했다. 구글(Google)의 한 서비스는 한 개발자의 디스크를 통째로 지워버린 적이 있고, 오픈클로(OpenClaw)의 AI 에이전트는 제어 불능 상태로 메타(Meta) 직원의 이메일을 삭제한 바 있으며, 아마존웹서비스(AWS, Amazon Web Services) 클라우드 플랫폼은 AI로 인해 13시간 동안 다운된 적도 있었다. 근본적인 원인은 AI 애플리케이션이 허용된 권한 범위를 벗어나 동작하는 데 있지만, AI가 필요한 작업을 완전히 이해하고 있으리라고 지레짐작한 사용자에게도 책임이 있다. 권고 사항으로는, 특히 'rm -rf'와 같은 명령어의 경우 AI 에이전트에게 핵심 시스템에 대한 전체 접근 권한이나 완전한 자율성을 부여하지 말아야 한다는 점이 제시된다. AI 에이전트의 인기가 높아짐에 따라 이러한 사고는 앞으로 더 늘어날 것으로 예상된다.