Les arnaqueurs par IA sont meilleurs que les humains pour instaurer la confiance

Des chercheurs de l'Amrita Vishwa Vidyapeetham, de l'Université Ca' Foscari de Venise, de l'Université de Melbourne et de l'Université Ben-Gourion du Néguev ont mené une étude sur l'utilisation de chatbots d'intelligence artificielle générative dans les escroqueries dites "pig butchering", une arnaque sentimentale textuelle qui conduit à de faux investissements en cryptomonnaies. Ils ont opposé des chatbots IA à des escrocs humains dans une simulation de la phase de construction de la confiance. Pendant une semaine, des sujets test ont discuté à leur insu avec un agent IA Claude et un escroc humain expert. 46 % des sujets ont obtempéré à la demande de l'IA de télécharger une application, contre 18 % pour l'humain. Les sujets ont également attribué des scores de confiance plus élevés à l'IA (3,78 contre 3,31). L'IA a réussi à se faire passer pour un humain, allant jusqu'à nier être une IA lorsqu'on le lui a demandé. Les chercheurs suggèrent que l'IA pourrait automatiser la majeure partie du processus d'escroquerie, les humains n'intervenant qu'au stade final pour contourner les dispositifs de sécurité des modèles de langage. Cependant, la traite des êtres humains pourrait encore être moins coûteuse pour les opérations d'escroquerie en raison de la main-d'œuvre quasi gratuite et des profits issus des rançons.