AI-oplichters zijn beter in het opbouwen van vertrouwen dan mensen

Onderzoekers van Amrita Vishwa Vidyapeetham, de Universiteit Ca' Foscari van Venetië, de Universiteit van Melbourne en de Ben-Gurionuniversiteit van de Negev hebben een studie uitgevoerd naar het gebruik van generatieve AI-chatbots bij pig butchering scams, een tekstgebaseerde romance scam die leidt tot nepinvesteringen in cryptovaluta. Ze zetten AI-chatbots tegenover menselijke oplichters in een simulatie van de vertrouwenwekkende gespreksfase. Gedurende een week praatten proefpersonen onwetend zowel met een Claude AI-agent als met een expert op het gebied van menselijke oplichting. 46% van de proefpersonen voldeed aan het verzoek van de AI om een app te downloaden, tegenover 18% bij de mens. Proefpersonen gaven ook hogere vertrouwensscores aan de AI (3,78 versus 3,31). De AI deed met succes alsof het een mens was en ontkende zelfs dat het AI was toen het ernaar werd gevraagd. De onderzoekers suggereren dat AI het grootste deel van het scamproces zou kunnen automatiseren, waarbij mensen alleen in de laatste fase ingrijpen om de veiligheidsmaatregelen van grote taalmodellen te omzeilen. Mensenhandel kan echter nog steeds goedkoper zijn voor scamoperaties vanwege bijna gratis arbeid en losgeldwinsten.