Les arnaqueurs par IA surpassent les humains pour instaurer la confiance
Une étude a révélé que les chatbots IA peuvent établir des relations de confiance avec les victimes d'escroquerie plus rapidement et plus efficacement que les humains. Dans une simulation d'escroquerie de type « abattage de porcs », près de la moitié des participants ont accédé à la demande du bot, tandis que moins d'un cinquième l'ont fait avec un humain.
Des chercheurs de l'Amrita Vishwa Vidyapeetham, de l'Université Foscari de Venise, de l'Université de Melbourne et de l'Université Ben-Gourion du Néguev ont mené une étude sur l'utilisation de chatbots d'intelligence artificielle générative dans les opérations frauduleuses, en particulier l'escroquerie dite « d'engraissement de porcs ». Dans ce mécanisme, les escrocs engagent de longues conversations visant à établir la confiance avec leurs victimes, souvent sur des mois, avant de solliciter de faux investissements en cryptomonnaies pouvant leur soutirer des sommes à six chiffres. Dans leur expérience, les chercheurs ont opposé des chatbots d'IA à des escrocs humains dans une simulation de ces conversations, avec 22 sujets test jouant le rôle de « victimes » non averties. Les chatbots d'IA ont réussi à se faire passer pour des humains de manière efficace et, après une semaine d'interaction, près de la moitié des sujets test ont accédé à une demande émanant de l'IA (télécharger une application ou jouer à un jeu en ligne), contre moins d'un sur cinq pour les escrocs humains. Les sujets ont également accordé une confiance nettement plus élevée aux chatbots d'IA qu'aux humains.
Source: Ars Technica —
original