英国の数学者、AIエージェントにクレジットカードを与える – パスワード漏洩やCAPTCHA混乱が発生
Anthropic
Moonshot AI
英国の数学者がAIエージェントにクレジットカードへのアクセス権を与えたところ、パスワードの漏洩やCAPTCHAの処理に苦戦する様子が観察された。この実験は、自律型AIエージェントが金融業務を処理する際のリスクを浮き彫りにしている。
イギリスの数学者が、AIエージェントにクレジットカードへのアクセス権を与える実験を行いました。そのエージェントの行動によってパスワード漏洩が発生し、CAPTCHA(キャプチャ)認証にも支障をきたしました。この実験は、AIシステムに自律的な金融機能を付与することの危険性を浮き彫りにしています。
出典: The Register AI/ML —
原文
