英国人数学者、AIエージェントにクレジットカードを渡して実験――パスワード漏洩やCAPTCHA混乱を目撃
Anthropic
Moonshot AI
英国人数学者がAIエージェントにクレジットカードへのアクセス権を与えたところ、パスワードを漏洩したりCAPTCHAに苦戦したりする様子を観察した。この実験は、自律型AIエージェントが金融タスクを処理する際のリスクを浮き彫りにしている。
イギリスの数学者が、AIエージェントにクレジットカードへのアクセス権を与える実験を行いました。そのエージェントの行動によってパスワード漏洩が発生し、CAPTCHA(キャプチャ)認証にも支障をきたしました。この実験は、AIシステムに自律的な金融機能を付与することの危険性を浮き彫りにしています。
出典: The Register AI/ML —
原文
