KI-Betrüger übertreffen Menschen beim Aufbau von Vertrauen
Eine Studie hat gezeigt, dass KI-Chatbots Vertrauen zu Betrugsopfern schneller und effektiver aufbauen können als Menschen. In einer Simulation von „Schweineschlacht“-Betrug kam fast die Hälfte der Teilnehmer der Bitte des Bots nach, während dies bei einem Menschen weniger als ein Fünftel tat.
Forschende der Amrita Vishwa Vidyapeetham, der Universität Ca' Foscari Venedig, der Universität Melbourne und der Ben-Gurion-Universität des Negev haben eine Studie zur Nutzung generativer KI-Chatbots in Betrugsmaschereien durchgeführt, insbesondere zum sogenannten „Pig Butchering“-Betrug. Bei diesem Schema führen Betrüger lange, vertrauensbildende Gespräche mit Opfern, die oft Monate dauern, bevor sie zu gefälschten Krypto-Investitionen auffordern, die fünfstellige Beträge stehlen können. In ihrem Experiment ließen die Forschenden KI-Chatbots gegen menschliche Betrüger in einer Simulation dieser Gespräche antreten, wobei 22 Testpersonen als ahnungslose „Opfer“ fungierten. Die KI-Chatbots konnten Menschen effektiv imitieren, und nach einer Woche Interaktion kam fast die Hälfte der Testpersonen einer Aufforderung der KI nach (eine App herunterzuladen oder ein Online-Spiel zu spielen), verglichen mit weniger als einem Fünftel bei menschlichen Betrügern. Die Testpersonen bewerteten auch ihr Vertrauen in die KI-Chatbots deutlich höher als in die Menschen.
Quelle: Ars Technica —
Original