Yapay Zeka Dolandırıcıları Güven Kurmada İnsanlardan Daha Başarılı

Amrita Vishwa Vidyapeetham, Venedik Foscari Üniversitesi, Melbourne Üniversitesi ve Ben-Gurion Üniversitesi'nden araştırmacılar, sahte kripto para yatırımlarına yol açan metin tabanlı bir romantik dolandırıcılık türü olan "pig butchering" (domuz kesme) dolandırıcılıklarında üretken yapay zeka sohbet robotlarının kullanımı üzerine bir çalışma yürüttü. Araştırmacılar, güven inşa etme konuşma aşamasının bir simülasyonunda yapay zeka sohbet robotlarını insan dolandırıcılarla karşı karşıya getirdi. Bir hafta boyunca, denekler farkında olmadan hem bir Claude yapay zeka ajanıyla hem de uzman bir insan dolandırıcıyla sohbet etti. Deneklerin %46'sı yapay zekanın bir uygulama indirme talebine uyarken, insan dolandırıcıda bu oran %18 oldu. Denekler ayrıca yapay zekaya daha yüksek güven puanı verdi (3,78'e karşı 3,31). Yapay zeka, sorulduğunda yapay zeka olduğunu inkar ederek başarılı bir şekilde insan taklidi yaptı. Araştırmacılar, yapay zekanın dolandırıcılık sürecinin çoğunu otomatikleştirebileceğini, insanların ise büyük dil modeli (LLM) güvenlik önlemlerini aşmak için yalnızca son aşamada devreye girebileceğini öne sürüyor. Ancak, neredeyse bedava iş gücü ve fidye kârları nedeniyle insan ticareti, dolandırıcılık operasyonları için hâlâ daha ucuz olabilir.