Tìm kiếm AI của Google khiến người dùng tin rằng camera đường phố chứa vàng, gây ra làn sóng phá hoại

Một tuyên bố giả mạo về camera Flock Safety chứa đầy kim loại quý đã được tính năng AI Overview của Google khuếch đại, khi tuyên bố rằng mỗi camera chứa 1-5 gram vàng và 0,9-10,4 kg đồng, riêng vàng đã trị giá khoảng 650 đô la. AI đã không kiểm chứng rằng tổng trọng lượng của camera chỉ là 1,36 kg, và tiếp tục lan truyền thông tin sai lệch, gây ra hành vi phá hoại các thiết bị này. Câu chuyện bắt đầu từ những vụ bê bối liên quan đến hệ thống giám sát Flock Safety, bao gồm việc cảnh sát lạm dụng để theo dõi cá nhân, và sự khó chịu của công chúng trước việc giám sát liên tục. Trên thực tế, vàng trong các thiết bị điện tử như vậy chỉ tồn tại ở dạng vết, chủ yếu trong lớp phủ tiếp điểm và các bộ phận của bo mạch, còn đồng được sử dụng với lượng rất nhỏ trong dây dẫn. Sau sự việc, Google đã cập nhật AI Overview để cảnh báo người dùng rằng những tuyên bố về gram vàng và kg đồng là một trò đùa và là kết quả của sự ảo giác AI, đồng thời lưu ý rằng hàm lượng thực tế chỉ là microgram. Sự việc này là một ví dụ khác về việc AI tạo sinh lặp lại và lan truyền những sự thật sai lệch mà không có kiểm tra tính hợp lý cơ bản, vì khối lượng đồng được nêu đã vượt quá trọng lượng toàn bộ thiết bị. Số lượng camera bị hư hại vẫn chưa được tiết lộ, mặc dù người ta lan truyền tin giả ngay cả khi không có AI, như việc đốt các tháp di động vào năm 2020, nhưng phải có ai đó để đổ lỗi.