Meta、AI生成の児童性的虐待画像を使った広告を配信

WIREDに共有された詳細によると、Metaは過去9ヶ月間にわたり、明示的なAI生成の児童性的虐待コンテンツ（CSAM）を含む50以上の画像および動画広告を配信してきた。これらの広告は、Tech Transparency Project（TTP）によって発見され、Facebook、Instagram、Messenger、Threadsで配信され、米国、英国、およびヨーロッパの10数カ国のユーザーを対象としていた。一部の広告はヌード化アプリや脱衣アプリにリンクしており、1つの動画広告は子供の顔を性的行為に変形させていた。TTPはこれらの広告を全国行方不明・被搾取児童センターのCyberTiplineに報告した。MetaはWIREDの問い合わせを受けて広告を削除し、ポリシー違反を理由に挙げた。多くの広告はリーチが最小限だったが、1つはヨーロッパの2,563アカウントに到達していた。TTPは、以前ポリシー違反で削除された同一の広告が再掲載されていることを発見し、Metaの執行体制に疑問を投げかけた。これらの広告はフォロワーが少ないアカウントから投稿されたものがほとんどで、広告主が開示されているケースでは、Meet Socialを含む中国企業に関連していた。複数の広告は、AppleのApp StoreにあるMaskAIアプリにリンクしており、このアプリにはAI生成のポルノや顔交換機能が含まれていた。AppleはWIREDの連絡を受けてアプリを削除した。Metaは昨年、3,600万件以上の児童性的搾取コンテンツを削除し、ヌード化アプリ開発者に対して法的措置を取っていると述べている。Indicatorの共同設立者であるAlexios Mantzarlis氏は、Metaのプラットフォームで25,000件以上のAIヌード化広告を報告しており、執行が消極的であると批判している。