Hugging Face Tem um Problema com Nus Deepfake

A organização sem fins lucrativos europeia AI Forensics publicou um relatório na terça-feira mostrando que o Hugging Face, um repositório de código aberto de inteligência artificial avaliado em bilhões de dólares, tem um problema generalizado com deepfakes não consensuais. Os pesquisadores testaram nove Spaces de edição de imagem populares na plataforma, e sete transformaram facilmente uma mulher vestida em uma sem blusa usando um prompt simples de seis palavras. Eles também configuraram Spaces-isca que não produziam imagens, mas rastrearam mais de 1.000 prompts em uma semana: 73% eram sexuais, 83% buscavam despir ou sexualizar a pessoa enviada (95% desses eram mulheres), e 6,7% tinham como alvo crianças aparentes. As políticas do Hugging Face proíbem material de abuso sexual infantil e deepfakes sexuais feitos sem consentimento, mas a WIRED encontrou várias páginas promovendo tecnologias de despir. O Hugging Face não respondeu às perguntas da WIRED. Algumas páginas foram removidas após o veículo entrar em contato com a empresa, mas não está claro se há relação. O relatório destaca que muitos modelos de código aberto na plataforma não possuem proteções de segurança, ao contrário de modelos tradicionais da OpenAI e do Google.