Kẻ lừa đảo AI giỏi xây dựng lòng tin hơn con người

Các nhà nghiên cứu từ Amrita Vishwa Vidyapeetham, Đại học Foscari Venice, Đại học Melbourne và Đại học Ben Gurion của Negev đã tiến hành một nghiên cứu về việc sử dụng chatbot trí tuệ nhân tạo (AI) tạo sinh trong các vụ lừa đảo mổ heo (pig butchering), một dạng lừa đảo tình cảm qua tin nhắn dẫn đến các khoản đầu tư tiền điện tử giả mạo. Họ đã đối đầu chatbot AI với những kẻ lừa đảo con người trong một mô phỏng giai đoạn xây dựng lòng tin qua trò chuyện. Trong suốt một tuần, các đối tượng thử nghiệm đã trò chuyện mà không biết với cả một tác nhân AI Claude và một kẻ lừa đảo con người chuyên nghiệp. 46% đối tượng đã tuân thủ yêu cầu tải xuống ứng dụng từ AI, so với 18% từ con người. Các đối tượng cũng cho điểm tin cậy cao hơn đối với AI (3,78 so với 3,31). AI đã mạo danh thành công một con người, thậm chí phủ nhận rằng nó là AI khi được hỏi. Các nhà nghiên cứu cho rằng AI có thể tự động hóa phần lớn quy trình lừa đảo, chỉ cần con người can thiệp ở giai đoạn cuối để vượt qua các biện pháp bảo vệ của mô hình ngôn ngữ lớn (LLM). Tuy nhiên, nạn buôn người có thể vẫn rẻ hơn đối với các tổ chức lừa đảo do lao động gần như miễn phí và lợi nhuận từ tiền chuộc.