AI诈骗者比人类更擅长建立信任

来自阿姆里塔·维什瓦·维迪亚佩瑟姆大学、威尼斯福斯卡里大学、墨尔本大学和内盖夫本-古里安大学的研究人员对生成式人工智能聊天机器人在“杀猪盘”诈骗中的使用进行了研究。“杀猪盘”是一种基于文本的浪漫骗局，最终引导受害者进行虚假的加密货币投资。他们在一段模拟信任建立对话阶段的实验中，让AI聊天机器人与人类骗子进行对比。在为期一周的时间里，测试对象在不知情的情况下，分别与一个Claude AI代理和一名专业的人类骗子聊天。46%的测试对象顺从了AI的请求，下载了一款应用，而顺从人类骗子的比例仅为18%。测试对象对AI的信任评分也更高（3.78分对3.31分）。AI成功冒充了人类，甚至在被问及时否认自己是AI。研究人员指出，AI可以自动化大部分诈骗过程，人类仅在最后阶段介入以避开大型语言模型的安全防护。然而，由于近乎免费的劳动力和勒索赎金带来的利润，人口贩卖对诈骗团伙而言可能仍然更便宜。