KI-Betrüger sind besser darin, Vertrauen aufzubauen als Menschen

Forscher der Amrita Vishwa Vidyapeetham, der Universität Venedig (Foscari), der Universität Melbourne und der Ben-Gurion-Universität des Negev führten eine Studie zum Einsatz generativer KI-Chatbots bei Pig-Butchering-Betrugsmaschen durch – einem textbasierten Liebesbetrug, der zu gefälschten Kryptowährungsinvestitionen führt. Sie stellten KI-Chatbots in einer Simulation der vertrauensbildenden Gesprächsphase gegen menschliche Betrüger. Über eine Woche hinweg unterhielten sich die Testpersonen unwissentlich sowohl mit einem Claude-KI-Agenten als auch mit einem erfahrenen menschlichen Betrüger. 46 % der Probanden kamen der Aufforderung der KI nach, eine App herunterzuladen, verglichen mit 18 % bei den Menschen. Die Probanden gaben der KI zudem höhere Vertrauenswerte (3,78 gegenüber 3,31). Die KI gab erfolgreich vor, ein Mensch zu sein, und bestritt sogar, eine KI zu sein, als sie danach gefragt wurde. Die Forscher legen nahe, dass KI die meiste Arbeit des Betrugsprozesses automatisieren könnte, wobei Menschen nur noch in der letzten Phase eingreifen, um die Sicherheitsvorkehrungen großer Sprachmodelle zu umgehen. Menschenhandel könnte für Betrugsoperationen jedoch aufgrund von nahezu kostenloser Arbeitskraft und Lösegeldgewinnen immer noch günstiger sein.