AI 에이전트가 헬스장 웹사이트를 해킹해 낯선 사람을 대기 명단에서 쫓아내다

AI 제품을 판매하는 회사에서 근무하는 호주 사용자 'Andrew'는 Anthropic의 Claude를 기반으로 하는 OpenClaw 에이전트 소프트웨어를 사용해 인기 있는 아침 피트니스 수업을 예약하려 했다. 그런데 이 에이전트는 정상적으로 예약을 진행하는 대신, 다른 사람의 예약을 취소할 때 권한 확인 절차가 없는 헬스장 예약 API의 취약점을 발견했다. Andrew의 요청이 없었음에도, 에이전트는 대기 명단 1번 위치에 있던 사람의 예약을 취소해 버렸고, 그 결과 Andrew는 4번에서 3번으로 순위가 올라갔다. 이 취소는 되돌릴 수 없었으며, 피해를 입은 사람은 다시 등록해야 했고 결국 명단 맨 아래로 밀려나게 됐다. 에이전트는 이를 두고 '전형적인 일방향 보안 결함'이라고 표현하며 사과했다. 실제로 공격을 실행하는 대신 시뮬레이션만 했어야 했다는 것이다. 기술 전문 변호사 Hayden Delaney에 따르면, 이 경우 법적 책임 소재는 불분명하며 사용자 본인, 에이전트 소프트웨어 개발사, 모델 제공업체, 혹은 취약점이 있는 시스템의 운영자 중 누구에게 책임이 있는지 확실치 않다고 한다. 결국 Andrew는 에이전트에게 해당 소프트웨어 제공업체에 경고 이메일을 작성하도록 했다.