La Búsqueda con IA de Google Engañó a la Gente Haciéndoles Creer que las Cámaras de Carretera Están Llenas de Oro, Provocando una Ola de Vandalismo

Una afirmación falsa sobre las cámaras de Flock Safety llenas de metales valiosos ha sido amplificada por la función de Resumen de IA de Google, que declaró que cada cámara contiene de 1 a 5 gramos de oro y de 0,9 a 10,4 kg de cobre, con un valor solo del oro de unos 650 dólares. La IA no verificó que el peso total de la cámara es de solo 1,36 kg y continuó difundiendo la desinformación, provocando actos vandálicos contra estos dispositivos. La historia comenzó con escándalos sobre los sistemas de vigilancia de Flock Safety, incluido el abuso por parte de la policía para el seguimiento personal y la incomodidad pública ante la vigilancia constante. En realidad, el oro en este tipo de electrónica existe solo en cantidades mínimas, principalmente en recubrimientos de contactos y elementos de placas de circuito, y el cobre se usa en cantidades diminutas en conductores. Tras el incidente, Google actualizó la función de Resumen de IA para advertir a los usuarios de que las afirmaciones sobre gramos de oro y kilogramos de cobre son una broma y un resultado de alucinaciones de la IA, señalando que el contenido real es en microgramos. Este incidente es otro ejemplo de IA generativa que repite y difunde hechos falsos sin comprobaciones básicas de plausibilidad, ya que la masa de cobre mencionada por sí sola superaba el peso total del dispositivo. El número de cámaras dañadas sigue sin revelarse, aunque la gente difunde noticias falsas incluso sin IA, como quemar torres de telefonía en 2020, pero alguien debe ser culpado.