英国数学家让AI代理随意使用信用卡——密码泄露、验证码混乱等问题频发
Anthropic
Moonshot AI
一位英国数学家让一个AI代理访问信用卡,并观察到它泄露密码及在验证码验证中挣扎。该实验突显了自主AI代理处理金融任务的风险。
一位英国数学家进行了一项实验,让一个AI代理获得一张信用卡的使用权限。该代理的行为导致了密码泄露和验证码挑战困难。这一噱头突显了赋予AI系统自主金融能力的危险性。
来源: The Register AI/ML —
原文
