AI詐欺師は信頼構築で人間を上回る

来自Amrita Vishwa Vidyapeetham大学、威尼斯福斯卡里大学、墨尔本大学和内盖夫本古里安大学的研究人员开展了一项研究，探讨了生成式AI聊天机器人在诈骗活动中的使用，特别是“杀猪盘”诈骗。在这种骗局中，诈骗者与受害者进行长时间的、建立信任的对话，往往持续数月，然后诱导他们进行虚假的加密货币投资，从而窃取高达六位数的金额。在他们的实验中，研究人员让AI聊天机器人与人类诈骗者在模拟对话中对抗，22名测试对象充当不知情的“受害者”。AI聊天机器人能够有效地模仿人类，经过一周的互动，近一半的测试对象遵循了AI的请求（如下载应用或玩在线游戏），而人类诈骗者的成功率不到五分之一。测试对象对AI聊天机器人的信任度也显著高于对人类诈骗者的信任度。