Meta draaide advertenties met AI-gegenereerde afbeeldingen van seksueel misbruik van kinderen

Volgens details die met WIRED zijn gedeeld, heeft Meta de afgelopen negen maanden meer dan vijftig afbeelding- en videoadvertenties gerund met expliciet AI-gegenereerd materiaal over seksueel misbruik van kinderen (CSAM). De advertenties, ontdekt door het Tech Transparency Project (TTP), werden getoond op Facebook, Instagram, Messenger en Threads, en waren gericht op gebruikers in de VS, het VK en meer dan een dozijn Europese landen. Sommige advertenties linkten naar nudify- of 'undressing'-apps, en een video-advertentie veranderde het gezicht van een kind in een seksuele handeling. TTP meldde de advertenties bij de CyberTipline van het National Center for Missing and Exploited Children. Meta verwijderde de advertenties nadat WIRED contact opnam, met verwijzing naar schendingen van het beleid. Veel advertenties hadden een minimaal bereik, maar één bereikte 2.563 accounts in Europa. TTP ontdekte dat sommige identieke advertenties die eerder vanwege beleidsschendingen waren verwijderd, weer terug waren, wat vragen oproept over Meta's handhaving. De advertenties werden vooral geplaatst door accounts met weinig volgers, en waar adverteerders werden vermeld, waren ze gekoppeld aan Chinese bedrijven, waaronder Meet Social. Verschillende advertenties linkten naar de MaskAI-app in de App Store van Apple, die AI-gegenereerde porno en functies voor gezichtsverwisseling bevatte; Apple verwijderde deze nadat WIRED contact opnam. Meta zegt dat het vorig jaar meer dan 36 miljoen stukken inhoud over seksuele uitbuiting van kinderen heeft verwijderd en juridische stappen onderneemt tegen ontwikkelaars van nudify-apps. Alexios Mantzarlis, medeoprichter van Indicator, heeft meer dan 25.000 AI-nudifier-advertenties op Meta's platforms gerapporteerd en bekritiseert de timide handhaving.