Meta schaltete Anzeigen mit KI-generierten Bildern sexuellen Kindesmissbrauchs

Wie WIRED mitgeteilt wurde, hat Meta in den vergangenen neun Monaten über 50 Bild- und Videoanzeigen mit explizitem, KI-generiertem Material über sexuellen Kindesmissbrauch (CSAM) geschaltet. Die Anzeigen, entdeckt vom Tech Transparency Project (TTP), liefen auf Facebook, Instagram, Messenger und Threads und richteten sich an Nutzer in den USA, Großbritannien und über einem Dutzend europäischer Länder. Einige Anzeigen verlinkten auf Nudify- oder Undressing-Apps, und eine Videoanzeige verwandelte das Gesicht eines Kindes in eine sexuelle Handlung. TTP meldete die Anzeigen an die CyberTipline des National Center for Missing and Exploited Children. Meta entfernte die Anzeigen, nachdem WIRED Kontakt aufgenommen hatte, und berief sich auf Richtlinienverstöße. Viele Anzeigen hatten nur eine minimale Reichweite, aber eine erreichte 2.563 Konten in Europa. TTP stellte fest, dass einige identische Anzeigen, die zuvor wegen Richtlinienverstößen entfernt worden waren, erneut auftauchten, was Fragen zu Metas Durchsetzung aufwirft. Die Anzeigen wurden hauptsächlich von Konten mit wenigen Followern gepostet, und wo Werbetreibende offengelegt wurden, waren sie mit chinesischen Unternehmen verbunden, darunter Meet Social. Mehrere Anzeigen verlinkten auf die MaskAI-App im Apple App Store, die KI-generierte Pornos und Face-Swapping-Funktionen enthielt; Apple entfernte sie, nachdem WIRED Kontakt aufgenommen hatte. Meta sagt, es habe letztes Jahr über 36 Millionen Inhalte zur sexuellen Ausbeutung von Kindern entfernt und gehe rechtlich gegen Entwickler von Nudify-Apps vor. Alexios Mantzarlis, Mitbegründer von Indicator, hat über 25.000 KI-Nudifier-Anzeigen auf Metas Plattformen gemeldet und kritisiert die zaghafte Durchsetzung.