Pesquisa com IA do Google enganou pessoas fazendo-as acreditar que câmeras de trânsito são cheias de ouro, gerando onda de vandalismo

Uma alegação falsa sobre as câmeras da Flock Safety serem cheias de metais valiosos foi amplificada pelo recurso de busca AI Overview do Google, que afirmou que cada câmera contém de 1 a 5 gramas de ouro e de 0,9 a 10,4 kg de cobre, com apenas o ouro valendo cerca de US$ 650. A inteligência artificial não verificou que o peso total da câmera é de apenas 1,36 kg e continuou a espalhar a desinformação, provocando vandalismo contra esses dispositivos. A história começou com escândalos envolvendo os sistemas de vigilância da Flock Safety, incluindo abuso por parte da polícia para rastreamento pessoal e desconforto público com a vigilância constante. Na realidade, o ouro em tais eletrônicos existe apenas em quantidades mínimas, principalmente em revestimentos de contatos e elementos de placas de circuito, e o cobre é usado em pequenas quantidades em condutores. Após o incidente, o Google atualizou o AI Overview para avisar aos usuários que as alegações de gramas de ouro e quilogramas de cobre são uma piada e resultado de alucinações da IA, observando que o conteúdo real é em microgramas. Este incidente é mais um exemplo de IA generativa repetindo e espalhando fatos falsos sem verificações básicas de plausibilidade, já que a massa de cobre mencionada sozinha excedia o peso total do dispositivo. O número de câmeras danificadas não foi divulgado, embora as pessoas espalhem notícias falsas mesmo sem IA, como queimar torres de celular em 2020, mas alguém precisa ser culpado.