La recherche IA de Google a induit les gens en erreur en leur faisant croire que les caméras routières sont remplies d'or, déclenchant une vague de vandalisme

Une fausse affirmation concernant les caméras de Flock Safety, prétendument pleines de métaux précieux, a été amplifiée par la fonctionnalité AI Overview de Google, qui a déclaré que chaque caméra contient 1 à 5 grammes d'or et 0,9 à 10,4 kg de cuivre, l'or seul étant évalué à environ 650 dollars. L'IA n'a pas vérifié que le poids total de la caméra n'est que de 1,36 kg, et a continué à propager la désinformation, provoquant du vandalisme contre ces dispositifs. L'histoire a commencé avec des scandales sur les systèmes de surveillance de Flock Safety, notamment des abus par la police pour le suivi personnel, et le malaise du public face à la surveillance constante. En réalité, l'or dans de tels appareils électroniques n'existe qu'à l'état de traces, principalement dans les revêtements de contacts et les éléments de circuits imprimés, et le cuivre est utilisé en quantités infimes dans les conducteurs. Après l'incident, Google a mis à jour AI Overview pour avertir les utilisateurs que les affirmations sur des grammes d'or et des kilogrammes de cuivre sont une plaisanterie et le résultat d'hallucinations de l'IA, notant que le contenu réel est en microgrammes. Cet incident est un autre exemple d'IA générative répétant et propageant de faux faits sans vérifications de plausibilité de base, car la masse de cuivre indiquée dépassait à elle seule le poids total de l'appareil. Le nombre de caméras endommagées n'a pas été divulgué, bien que les gens propagent de fausses nouvelles même sans IA, comme en brûlant des tours de téléphonie en 2020, mais il faut bien que quelqu'un soit blâmé.