Googles KI-Suche überzeugt Menschen, dass Straßenkameras mit Gold gefüllt sind – Vandalismusserie ausgelöst

Eine falsche Behauptung über Flock-Safety-Kameras, sie seien voller wertvoller Metalle, wurde durch die KI-Übersichtsfunktion von Google verstärkt, die besagte, dass jede Kamera 1 bis 5 Gramm Gold und 0,9 bis 10,4 Kilogramm Kupfer enthält, wobei allein das Gold einen Wert von etwa 650 Dollar habe. Die KI versäumte es zu überprüfen, dass das Gesamtgewicht der Kamera nur 1,36 Kilogramm beträgt, und verbreitete die Fehlinformation weiter, was zu Vandalismus an diesen Geräten führte. Die Geschichte begann mit Skandalen um die Überwachungssysteme von Flock Safety, darunter Missbrauch durch die Polizei für persönliche Zwecke und das Unbehagen der Öffentlichkeit angesichts der ständigen Überwachung. In Wirklichkeit kommt Gold in solchen Elektronikgeräten nur in Spuren vor, hauptsächlich in Kontaktbeschichtungen und Leiterplattenelementen, und Kupfer wird in winzigen Mengen in Leitern verwendet. Nach dem Vorfall aktualisierte Google die KI-Übersicht, um die Nutzer zu warnen, dass die Behauptungen über Gramm Gold und Kilogramm Kupfer ein Witz und das Ergebnis von KI-Halluzinationen seien, und stellte fest, dass der tatsächliche Gehalt in Mikrogramm liegt. Dieser Vorfall ist ein weiteres Beispiel dafür, dass generative KI falsche Fakten wiederholt und verbreitet, ohne grundlegende Plausibilitätsprüfungen durchzuführen, da allein die angegebene Kupfermasse das Gesamtgewicht des Geräts überstieg. Die Zahl der beschädigten Kameras wurde nicht bekannt gegeben, obwohl Menschen auch ohne KI falsche Nachrichten verbreiten, wie das Abbrennen von Mobilfunkmasten im Jahr 2020, aber jemand muss schuld sein.