Meta a diffusé des publicités avec des images d'abus sexuels sur enfants générées par IA

Selon des détails partagés avec WIRED, Meta a diffusé plus de 50 publicités d'images et de vidéos contenant du matériel d'abus sexuel d'enfants (CSAM) généré explicitement par l'IA au cours des neuf derniers mois. Les publicités, découvertes par le Tech Transparency Project (TTP), ont été diffusées sur Facebook, Instagram, Messenger et Threads, et ciblaient des utilisateurs aux États-Unis, au Royaume-Uni et dans plus d'une douzaine de pays européens. Certaines publicités renvoyaient vers des applications de nudification ou de déshabillage, et une publicité vidéo transformait le visage d'un enfant en acte sexuel. Le TTP a signalé ces publicités au CyberTipline du National Center for Missing and Exploited Children. Meta a retiré les publicités après que WIRED les a contactés, invoquant des violations de ses politiques. Beaucoup de publicités avaient une portée minimale, mais l'une d'elles a atteint 2 563 comptes en Europe. Le TTP a constaté que certaines publicités identiques, précédemment supprimées pour violations de politiques, étaient de retour, soulevant des questions sur l'application des règles par Meta. Les publicités étaient principalement publiées par des comptes avec peu d'abonnés, et lorsque les annonceurs étaient divulgués, ils étaient liés à des entreprises chinoises, notamment Meet Social. Plusieurs publicités renvoyaient vers l'application MaskAI sur l'App Store d'Apple, qui contenait du porno généré par IA et des fonctions de échange de visage ; Apple l'a retirée après que WIRED les a contactés. Meta affirme avoir supprimé plus de 36 millions de contenus d'exploitation sexuelle d'enfants l'année dernière et intente des actions en justice contre les développeurs d'applications de nudification. Alexios Mantzarlis, cofondateur d'Indicator, a signalé plus de 25 000 publicités de nudificateurs IA sur les plateformes de Meta et critique l'application timide des règles.