AI-oplichters overtreffen mensen in het opbouwen van vertrouwen
Uit onderzoek is gebleken dat AI-chatbots sneller en effectiever vertrouwensrelaties kunnen opbouwen met slachtoffers van oplichting dan mensen. In een simulatie van een 'varkensslacht'-oplichting voldeed bijna de helft van de deelnemers aan het verzoek van de bot, terwijl bij een mens minder dan een vijfde dit deed.
Onderzoekers van Amrita Vishwa Vidyapeetham, Foscari Universiteit van Venetië, de Universiteit van Melbourne en Ben Gurion Universiteit van de Negev hebben een studie uitgevoerd naar het gebruik van generatieve AI-chatbots bij oplichtingspraktijken, met name 'pig butchering'-fraude. Bij dit schema voeren oplichters lange, vertrouwenwekkende gesprekken met slachtoffers, die vaak maanden duren, voordat ze nep-investeringen in cryptocurrency voorstellen die zescijferige bedragen kunnen stelen. In hun experiment lieten de onderzoekers AI-chatbots het opnemen tegen menselijke oplichters in een simulatie van deze gesprekken, waarbij 22 proefpersonen fungeerden als nietsvermoedende 'slachtoffers'. De AI-chatbots waren in staat om mensen effectief te imiteren en na een week van interactie voldeed bijna de helft van de proefpersonen aan een verzoek van de AI (om een app te downloaden of een online spel te spelen), vergeleken met minder dan 1 op de 5 bij menselijke oplichters. De proefpersonen gaven ook aan aanzienlijk meer vertrouwen te hebben in de AI-chatbots dan in de mensen.
Bron: Ars Technica —
origineel