Penipu AI Lebih Baik dalam Membangun Kepercayaan daripada Manusia

Para peneliti dari Amrita Vishwa Vidyapeetham, Universitas Foscari Venesia, Universitas Melbourne, dan Universitas Ben-Gurion Negev melakukan studi tentang penggunaan chatbot AI generatif dalam penipuan potong babi, sebuah penipuan romansa berbasis teks yang berujung pada investasi kripto palsu. Mereka membandingkan chatbot AI dengan penipu manusia dalam simulasi fase percakapan membangun kepercayaan. Selama seminggu, subjek uji tanpa sadar mengobrol dengan agen Claude AI dan penipu manusia ahli. Sebanyak 46% subjek mematuhi permintaan AI untuk mengunduh aplikasi, dibandingkan dengan 18% untuk manusia. Subjek juga memberikan skor kepercayaan lebih tinggi kepada AI (3,78 vs. 3,31). AI berhasil menyamar sebagai manusia, bahkan menyangkal dirinya adalah AI saat ditanya. Para peneliti menyarankan bahwa AI dapat mengotomatiskan sebagian besar proses penipuan, dengan manusia hanya turun tangan pada tahap akhir untuk menghindari pencegahan dari model bahasa besar. Namun, perdagangan manusia mungkin masih lebih murah untuk operasi penipuan karena tenaga kerja hampir gratis dan keuntungan dari uang tebusan.