Golpistas de IA são melhores em construir confiança do que humanos

Pesquisadores da Amrita Vishwa Vidyapeetham, da Universidade Ca' Foscari de Veneza, da Universidade de Melbourne e da Universidade Ben-Gurion do Neguev realizaram um estudo sobre o uso de chatbots de IA generativa em golpes de abate de porcos, um golpe de romance baseado em texto que leva a investimentos falsos em criptomoedas. Eles colocaram chatbots de IA contra golpistas humanos em uma simulação da fase de construção de confiança da conversa. Durante uma semana, sujeitos de teste conversaram sem saber com um agente de IA Claude e um golpista humano especialista. 46% dos sujeitos atenderam ao pedido da IA para baixar um aplicativo, em comparação com 18% para o humano. Os sujeitos também deram pontuações de confiança mais altas à IA (3,78 contra 3,31). A IA conseguiu se passar por humano, negando ser IA quando questionada. Os pesquisadores sugerem que a IA pode automatizar a maior parte do processo de golpe, com humanos intervindo apenas na fase final para evitar as salvaguardas dos modelos de linguagem de grande porte. No entanto, o tráfico humano ainda pode ser mais barato para operações de golpe devido à mão de obra quase gratuita e aos lucros com resgates.