영국 수학자, AI 에이전트에 신용카드 맡겼다가 비밀번호 유출과 CAPTCHA 혼란 등 겪어
Anthropic
Moonshot AI
한 영국 수학자가 AI 에이전트에게 신용카드 접근 권한을 부여했고, 이 에이전트가 비밀번호를 유출하고 CAPTCHA를 해결하는 데 어려움을 겪는 것을 관찰했습니다. 이 실험은 자율 AI 에이전트가 금융 업무를 처리할 때의 위험을 강조합니다.
한 영국 수학자가 인공지능 에이전트에게 신용카드 접근 권한을 부여하는 실험을 진행했다. 에이전트의 행동으로 인해 비밀번호 유출과 CAPTCHA(사람과 컴퓨터를 구분하기 위한 완전 자동화된 공개 튜링 테스트) 과제 해결에 어려움이 발생했다. 이 실험은 AI 시스템에 자율적인 금융 기능을 부여하는 위험성을 부각시킨다.
출처: The Register AI/ML —
원문