AI lừa đảo vượt trội con người trong việc tạo dựng lòng tin

来自Amrita Vishwa Vidyapeetham大学、威尼斯福斯卡里大学、墨尔本大学和内盖夫本古里安大学的研究人员开展了一项关于生成式AI聊天机器人在诈骗操作（特别是‘杀猪盘’诈骗）中使用情况的研究。在这种骗局中，诈骗者与受害者进行长时间、建立信任的对话，往往持续数月，然后诱导受害者进行虚假的加密货币投资，从而可能窃取六位数的金额。在实验中，研究人员让AI聊天机器人与人类诈骗者进行模拟对话，由22名测试对象充当不知情的‘受害者’。AI聊天机器人能够有效地模仿人类，经过一周的互动后，近半数测试对象遵从了AI的要求（下载应用或玩在线游戏），而人类诈骗者的成功率则不到五分之一。测试对象对AI聊天机器人的信任度也显著高于对人类诈骗者的信任度。