英国数学家让AI智能体持信用卡自由活动——密码泄露、验证码混乱接连上演
Anthropic
Moonshot AI
一位英国数学家给AI智能体开放了信用卡权限,观察到它泄露密码并在验证码面前束手无策。该实验揭示了自主AI智能体处理金融任务的风险。
一位英国数学家进行了一项实验,让一个AI代理获得一张信用卡的使用权限。该代理的行为导致了密码泄露和验证码挑战困难。这一噱头突显了赋予AI系统自主金融能力的危险性。
来源: The Register AI/ML —
原文
