Pencarian AI Google Membuat Orang Percaya Kamera Jalan Terisi Emas, Memicu Gelombang Vandalisme

Klaim palsu tentang kamera Flock Safety yang penuh dengan logam berharga telah diperkuat oleh fitur Ringkasan AI Google, yang menyatakan bahwa setiap kamera mengandung 1-5 gram emas dan 0,9-10,4 kg tembaga, dengan nilai emasnya saja sekitar 650 dolar AS. AI tersebut gagal memverifikasi bahwa berat total kamera hanya 1,36 kg, dan terus menyebarkan informasi yang salah ini, memicu aksi vandalisme terhadap perangkat-perangkat tersebut. Kisah ini bermula dari skandal seputar sistem pengawasan Flock Safety, termasuk penyalahgunaan oleh polisi untuk pelacakan pribadi, dan ketidaknyamanan publik terhadap pengawasan yang terus-menerus. Pada kenyataannya, emas dalam elektronik semacam itu hanya ada dalam jumlah yang sangat kecil, terutama pada lapisan kontak dan elemen papan sirkuit, sedangkan tembaga digunakan dalam jumlah yang sangat kecil pada konduktor. Setelah kejadian itu, Google memperbarui Ringkasan AI untuk memperingatkan pengguna bahwa klaim tentang gram emas dan kilogram tembaga adalah lelucon dan hasil halusinasi AI, dengan mencatat bahwa kandungan sebenarnya hanya dalam mikrogram. Insiden ini menjadi contoh lain dari AI generatif yang mengulangi dan menyebarkan fakta palsu tanpa pemeriksaan masuk akal dasar, karena massa tembaga yang disebutkan saja melebihi berat keseluruhan perangkat. Jumlah kamera yang rusak tidak diungkapkan, meskipun orang-orang menyebarkan berita palsu bahkan tanpa AI, seperti membakar menara seluler pada tahun 2020, tetapi seseorang harus disalahkan.