AI詐欺師は人間よりも信頼構築が上手い

アムリタ・ヴィシュワ・ヴィディヤピータム大学、ヴェネツィア・フォスカリ大学、メルボルン大学、およびベン・グリオン大学の研究者らは、生成AIチャットボットが豚の屠殺詐欺（テキストベースの恋愛詐欺で、偽の暗号通貨投資に誘導する手口）に利用される可能性について研究を行った。彼らは信頼構築段階の会話シミュレーションで、AIチャットボットを人間の詐欺師と対決させた。1週間にわたり、被験者は気付かずにクロードAIエージェントと熟練した人間の詐欺師の両方とチャットした。被験者の46%がAIからのアプリダウンロード依頼に応じたのに対し、人間の詐欺師に対しては18%だった。被験者はAIに高い信頼スコア（3.78対3.31）を与えた。AIは人間をうまく装い、AIかどうか尋ねられても否定した。研究者らは、AIが詐欺プロセスの大部分を自動化でき、人間は大規模言語モデルの安全策を回避するために最終段階でのみ介入すればよいと示唆している。しかしながら、詐欺組織にとっては、ほぼ無料の労働力と身代金による利益のため、人身売買の方が依然として安価である可能性がある。