AI-huijarit ovat ihmisiä parempia luottamuksen rakentamisessa

Tutkijat Amrita Vishwa Vidyapeethamista, Foscari Venetsian yliopistosta, Melbournen yliopistosta ja Ben Gurionin yliopistosta Negevistä tekivät tutkimuksen generatiivisten tekoälychatbottien käytöstä sianteurastushuijauksissa, jotka ovat tekstipohjaisia rakkaushuijauksia, jotka johtavat väärennettyihin kryptovaluuttasijoituksiin. He asettivat tekoälychatbotit vastakkain ihmishuijareiden kanssa simuloimalla luottamusta rakentavaa keskusteluvaihetta. Viikon aikana testihenkilöt keskustelivat tietämättään sekä Claude-tekoälyagentin että asiantuntijahuijarin kanssa. 46 prosenttia koehenkilöistä noudatti tekoälyn pyyntöä ladata sovellus, kun ihmisen tapauksessa vastaava luku oli 18 prosenttia. Koehenkilöt antoivat myös korkeammat luottamuspisteet tekoälylle (3,78 vs. 3,31). Tekoäly onnistui esittämään ihmistä, jopa kieltäen olevansa tekoäly, kun siltä kysyttiin. Tutkijat ehdottavat, että tekoäly voisi automatisoida suurimman osan huijausprosessista, ja ihmiset puuttuisivat peliin vasta viimeisessä vaiheessa välttääkseen suurten kielimallien turvatoimet. Ihmiskauppa saattaa kuitenkin olla edelleen halvempi vaihtoehto huijausoperaatioille, koska työvoima on lähes ilmaista ja lunnaista saadaan voittoa.