Googlen tekoälyhaku huijasi ihmisiä uskomaan, että tiellä olevat kamerat ovat täynnä kultaa, mikä aiheutti ilkivalta-aallon

Väärä väite siitä, että Flock Safety -kamerat ovat täynnä arvokkaita metalleja, on levinnyt Googlen tekoälyyn perustuvan hakukoosteen kautta. Hakukone väitti, että jokainen kamera sisältää 1–5 grammaa kultaa ja 0,9–10,4 kilogrammaa kuparia, ja että pelkän kullan arvo on noin 650 dollaria. Tekoäly ei tarkistanut, että kameran kokonaispaino on vain 1,36 kilogrammaa, vaan jatkoi väärän tiedon levittämistä, mikä on yllyttänyt ilkivaltaan näitä laitteita kohtaan. Tarina sai alkunsa Flock Safetyn valvontajärjestelmiin liittyvistä skandaaleista, kuten poliisin väärinkäytöksistä henkilökohtaiseen seurantaan, sekä yleisestä epämukavuudesta jatkuvan valvonnan edessä. Todellisuudessa tällaisissa elektroniikkalaitteissa kultaa on vain jälkiä, lähinnä kosketinpinnoitteissa ja piirilevyjen osissa, ja kuparia käytetään hyvin pieniä määriä johtimissa. Tapauksen jälkeen Google päivitti AI Overview -ominaisuutta varoittaakseen käyttäjiä siitä, että väitteet grammoista kultaa ja kilogrammoista kuparia ovat vitsi ja seurausta tekoälyn hallusinaatioista, ja totesi, että todellinen määrä on mikrogrammoissa. Tämä tapaus on jälleen yksi esimerkki siitä, miten generatiivinen tekoäly toistaa ja levittää vääriä faktoja ilman perustason uskottavuustarkistuksia, sillä mainittu kuparin massa yksinään ylitti koko laitteen painon. Vaurioituneiden kameroiden määrää ei ole kerrottu, vaikka ihmiset levittävät valeuutisia myös ilman tekoälyä, kuten vuonna 2020 palaneet tukiasemat osoittavat, mutta jollekin on löydyttävä syyllinen.