Meta, yapay zeka ile üretilen çocuk istismarı görüntüleri içeren reklamlar yayınladı

WIRED ile paylaşılan ayrıntılara göre Meta, son dokuz ayda açıkça yapay zeka ile üretilmiş çocuk cinsel istismarı materyali (CSAM) içeren 50'den fazla görsel ve video reklamı yayınladı. Tech Transparency Project (TTP) tarafından keşfedilen reklamlar Facebook, Instagram, Messenger ve Threads'te yayınlandı ve ABD, İngiltere ve bir düzineden fazla Avrupa ülkesindeki kullanıcıları hedef aldı. Bazı reklamlar, çıplaklama veya soyunma uygulamalarına bağlantı veriyordu ve bir video reklamı, bir çocuğun yüzünü cinsel bir eyleme dönüştürüyordu. TTP, reklamları Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'nin CyberTipline hattına bildirdi. Meta, WIRED'in ulaşmasının ardından reklamları politika ihlalleri gerekçesiyle kaldırdı. Birçok reklamın erişimi minimum düzeydeydi ancak biri Avrupa'da 2.563 hesaba ulaştı. TTP, daha önce politika ihlalleri nedeniyle kaldırılan bazı reklamların aynılarının geri geldiğini tespit etti ve bu durum Meta'nın uygulamalarıyla ilgili soruları gündeme getirdi. Reklamların çoğu az takipçili hesaplar tarafından yayınlandı ve reklam verenlerin açıklandığı yerlerde, Meet Social dahil olmak üzere Çinli şirketlerle bağlantılıydı. Birkaç reklam, Apple'ın App Store'undaki MaskAI uygulamasına bağlantı veriyordu; bu uygulama yapay zeka ile üretilmiş porno ve yüz değiştirme özellikleri içeriyordu. Apple, WIRED'in kendileriyle iletişime geçmesinin ardından uygulamayı kaldırdı. Meta, geçen yıl 36 milyondan fazla çocuk cinsel istismarı içeriğini kaldırdığını ve çıplaklama uygulaması geliştiricilerine karşı yasal işlem başlattığını söylüyor. Indicator'ın kurucu ortağı Alexios Mantzarlis, Meta'nın platformlarında 25.000'den fazla yapay zeka çıplaklayıcı reklamı raporladı ve çekingen uygulamaları eleştiriyor.