Meta Menayangkan Iklan Berisi Gambar Pelecehan Seksual Anak yang Dihasilkan AI

Menurut rincian yang dibagikan kepada WIRED, Meta telah menjalankan lebih dari 50 iklan gambar dan video yang berisi konten pelecehan seksual anak (CSAM) yang dihasilkan oleh AI secara eksplisit selama sembilan bulan terakhir. Iklan-iklan tersebut, yang ditemukan oleh Tech Transparency Project (TTP), ditayangkan di Facebook, Instagram, Messenger, dan Threads, dan menargetkan pengguna di AS, Inggris, dan lebih dari selusin negara Eropa. Beberapa iklan menautkan ke aplikasi nudify atau undressing, dan satu iklan video mengubah wajah anak menjadi adegan seksual. TTP melaporkan iklan-iklan tersebut ke CyberTipline milik National Center for Missing and Exploited Children. Meta menghapus iklan-iklan tersebut setelah WIRED menghubungi mereka, dengan mengutip pelanggaran kebijakan. Banyak iklan memiliki jangkauan minimal, tetapi satu iklan menjangkau 2.563 akun di Eropa. TTP menemukan bahwa beberapa iklan yang sama yang sebelumnya dihapus karena pelanggaran kebijakan kembali muncul, menimbulkan pertanyaan tentang penegakan aturan oleh Meta. Iklan-iklan tersebut sebagian besar diposting oleh akun dengan sedikit pengikut, dan di mana pengiklan diungkapkan, mereka terkait dengan perusahaan Tiongkok, termasuk Meet Social. Beberapa iklan menautkan ke aplikasi MaskAI di App Store milik Apple, yang berisi pornografi yang dihasilkan AI dan fitur penukaran wajah; Apple menghapusnya setelah WIRED menghubungi mereka. Meta mengatakan bahwa mereka menghapus lebih dari 36 juta konten eksploitasi seksual anak tahun lalu dan mengambil tindakan hukum terhadap pengembang aplikasi nudify. Alexios Mantzarlis, salah satu pendiri Indicator, telah melaporkan lebih dari 25.000 iklan AI nudifier di platform Meta dan mengkritik penegakan aturan yang setengah hati.