Google AI Zoekresultaat Misleidt Mensen met Gouden Claim over Flitscamera's, Leidt tot Vandalisme

Een nepclaim over Flock Safety-camera's die vol zouden zitten met waardevolle metalen is versterkt door de AI-overzichtsfunctie van Google, die stelde dat elke camera 1-5 gram goud en 0,9-10,4 kg koper bevat, waarbij alleen al het goud ongeveer 650 dollar waard zou zijn. De AI controleerde niet dat het totale gewicht van de camera slechts 1,36 kg is, en bleef de desinformatie verspreiden, wat vandalisme tegen deze apparaten uitlokte. Het verhaal begon met schandalen rond Flock Safety-bewakingssystemen, waaronder misbruik door de politie voor persoonlijke tracking, en ongemak bij het publiek over constante surveillance. In werkelijkheid komt goud in dergelijke elektronica alleen in sporenhoeveelheden voor, voornamelijk in contactcoatings en printplaatelementen, en wordt koper in kleine hoeveelheden gebruikt in geleiders. Na het incident heeft Google AI Overview bijgewerkt om gebruikers te waarschuwen dat de claims over grammen goud en kilogrammen koper een grap zijn en het resultaat van AI-hallucinaties, waarbij wordt opgemerkt dat de werkelijke inhoud in microgrammen ligt. Dit incident is opnieuw een voorbeeld van generatieve AI die onjuiste feiten herhaalt en verspreidt zonder elementaire plausibiliteitscontroles, aangezien de genoemde kopermassa alleen al het totale gewicht van het apparaat overschreed. Het aantal beschadigde camera's blijft onbekend, hoewel mensen ook zonder AI nepnieuws verspreiden, zoals het in brand steken van zendmasten in 2020, maar er moet iemand de schuld krijgen.