Meta chạy quảng cáo với hình ảnh lạm dụng tình dục trẻ em do AI tạo ra

Theo thông tin chia sẻ với WIRED, Meta đã chạy hơn 50 quảng cáo hình ảnh và video chứa nội dung lạm dụng tình dục trẻ em do AI tạo ra (CSAM) trong chín tháng qua. Các quảng cáo này, được phát hiện bởi Tech Transparency Project (TTP), đã chạy trên Facebook, Instagram, Messenger và Threads, nhắm mục tiêu đến người dùng ở Mỹ, Anh và hơn một chục quốc gia châu Âu. Một số quảng cáo liên kết đến các ứng dụng nudify hoặc undressing, và một quảng cáo video đã biến khuôn mặt của trẻ em thành hành vi tình dục. TTP đã báo cáo các quảng cáo này lên đường dây nóng CyberTipline của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột. Meta đã gỡ bỏ các quảng cáo sau khi WIRED liên hệ, viện dẫn vi phạm chính sách. Nhiều quảng cáo có phạm vi tiếp cận tối thiểu, nhưng một quảng cáo đã tiếp cận 2.563 tài khoản ở châu Âu. TTP phát hiện rằng một số quảng cáo giống hệt đã bị gỡ trước đó vì vi phạm chính sách đã quay lại, đặt ra câu hỏi về việc thực thi của Meta. Các quảng cáo này chủ yếu được đăng bởi các tài khoản có ít người theo dõi, và nơi nhà quảng cáo được tiết lộ, họ được liên kết với các công ty Trung Quốc, bao gồm Meet Social. Một số quảng cáo liên kết đến ứng dụng MaskAI trên App Store của Apple, chứa nội dung khiêu dâm do AI tạo ra và tính năng hoán đổi khuôn mặt; Apple đã gỡ bỏ nó sau khi WIRED liên hệ. Meta cho biết họ đã gỡ bỏ hơn 36 triệu nội dung bóc lột tình dục trẻ em vào năm ngoái và thực hiện hành động pháp lý chống lại các nhà phát triển ứng dụng nudify. Alexios Mantzarlis, đồng sáng lập Indicator, đã báo cáo hơn 25.000 quảng cáo AI nudifier trên các nền tảng của Meta và chỉ trích việc thực thi quá yếu.