Meta publicó anuncios con imágenes de abuso sexual infantil generadas por IA

Según detalles compartidos con WIRED, Meta ha publicado más de 50 anuncios de imagen y video que contienen material de abuso sexual infantil (CSAM, por sus siglas en inglés) generado explícitamente con IA en los últimos nueve meses. Los anuncios, descubiertos por el Proyecto de Transparencia Tecnológica (TTP, por sus siglas en inglés), aparecieron en Facebook, Instagram, Messenger y Threads, y estaban dirigidos a usuarios en Estados Unidos, Reino Unido y más de una docena de países europeos. Algunos anuncios enlazaban a aplicaciones de desnudar o desvestir, y un anuncio de video transformaba la cara de un niño en un acto sexual. El TTP informó de los anuncios a la línea de denuncia CyberTipline del Centro Nacional para Niños Desaparecidos y Explotados. Meta retiró los anuncios después de que WIRED se pusiera en contacto, citando violaciones de sus políticas. Muchos anuncios tuvieron un alcance mínimo, pero uno llegó a 2.563 cuentas en Europa. El TTP descubrió que algunos anuncios idénticos que habían sido retirados anteriormente por violaciones de políticas habían vuelto a aparecer, lo que plantea preguntas sobre la aplicación de las normas por parte de Meta. Los anuncios fueron publicados en su mayoría por cuentas con pocos seguidores, y cuando se revelaba al anunciante, estaban vinculados a empresas chinas, incluida Meet Social. Varios anuncios enlazaban con la aplicación MaskAI en la App Store de Apple, que contenía pornografía generada por IA y funciones de intercambio de caras; Apple la retiró después de que WIRED se pusiera en contacto con ellos. Meta afirma que el año pasado eliminó más de 36 millones de piezas de contenido de explotación sexual infantil y emprende acciones legales contra los desarrolladores de aplicaciones de desnudar. Alexios Mantzarlis, cofundador de Indicator, ha denunciado más de 25.000 anuncios de desnudadores con IA en las plataformas de Meta y critica la aplicación de normas tímida.