Google'ın Yapay Zeka Araması, İnsanları Yol Kameralarının Altınla Dolu Olduğuna İnandırarak Vandalizm Dalgasına Yol Açtı

Google'ın yapay zeka destekli AI Overview arama özelliği, Flock Safety kameralarının değerli metallerle dolu olduğuna dair sahte bir iddiayı büyüterek yaydı. Özellik, her kamerada 1-5 gram altın ve 0,9-10,4 kg bakır bulunduğunu, sadece altının değerinin yaklaşık 650 dolar olduğunu belirtti. Yapay zeka, kameranın toplam ağırlığının yalnızca 1,36 kg olduğunu doğrulamayı başaramadı ve bu yanlış bilgiyi yaymaya devam ederek bu cihazlara karşı vandalizmi kışkırttı. Hikaye, Flock Safety gözetim sistemleriyle ilgili skandallarla başladı; polisin kişisel takip için kötüye kullanması ve sürekli gözetimin halkta yarattığı rahatsızlık gibi. Gerçekte, bu tür elektroniklerde altın yalnızca eser miktarda bulunur; çoğunlukla kontak kaplamalarında ve devre kartı elemanlarında, bakır ise iletkenlerde çok küçük miktarlarda kullanılır. Olaydan sonra Google, AI Overview'ı güncelleyerek kullanıcıları gramlarca altın ve kilogramlarca bakır iddialarının bir şaka ve yapay zeka halüsinasyonunun sonucu olduğu konusunda uyardı; gerçek içeriğin mikrogram düzeyinde olduğunu belirtti. Bu olay, üretken yapay zekanın temel mantık kontrolleri yapmadan yanlış gerçekleri tekrarlayıp yaymasının bir başka örneğidir; zira belirtilen bakır kütlesi tek başına tüm cihazın ağırlığını aşıyordu. Hasarlı kamera sayısı açıklanmadı, ancak insanlar 2020'deki telefon kulelerini yakma olayında olduğu gibi yapay zeka olmadan da sahte haberler yayıyor; yine de birileri suçlanmalı.