Meta veiculou anúncios com imagens de abuso sexual infantil geradas por IA

De acordo com detalhes compartilhados com a WIRED, a Meta veiculou mais de 50 anúncios de imagem e vídeo contendo material explícito de abuso sexual infantil (CSAM) gerado por inteligência artificial nos últimos nove meses. Os anúncios, descobertos pelo Tech Transparency Project (TTP), foram exibidos no Facebook, Instagram, Messenger e Threads, e direcionados a usuários nos Estados Unidos, Reino Unido e em mais de uma dezena de países europeus. Alguns anúncios direcionavam para aplicativos de 'nudify' ou de remoção de roupas, e um anúncio de vídeo transformava o rosto de uma criança em um ato sexual. O TTP reportou os anúncios à CyberTipline do Centro Nacional para Crianças Desaparecidas e Exploradas. A Meta removeu os anúncios após o contato da WIRED, citando violações de políticas. Muitos anúncios tiveram alcance mínimo, mas um alcançou 2.563 contas na Europa. O TTP descobriu que alguns anúncios idênticos, anteriormente removidos por violações de políticas, voltaram, levantando questões sobre a aplicação das regras pela Meta. A maioria dos anúncios foi publicada por contas com poucos seguidores e, quando os anunciantes foram divulgados, estavam ligados a empresas chinesas, incluindo a Meet Social. Vários anúncios direcionavam para o aplicativo MaskAI na App Store da Apple, que continha pornografia gerada por IA e recursos de troca de rosto; a Apple o removeu após o contato da WIRED. A Meta afirma ter removido mais de 36 milhões de conteúdos de exploração sexual infantil no ano passado e toma medidas legais contra desenvolvedores de aplicativos de nudify. Alexios Mantzarlis, cofundador da Indicator, já reportou mais de 25.000 anúncios de nudifiers com IA nas plataformas da Meta e critica a aplicação tímida das regras.