Breve Panorama do Viés de Gênero em IA

O artigo enfatiza que modelos de IA treinados com dados humanos herdam e até amplificam estereótipos de gênero existentes. Ele cita trabalhos influentes: Bolukbasi e colaboradores (2016) mostraram que embeddings de palavras contêm analogias sexistas (por exemplo, "homem está para programador assim como mulher está para dona de casa") e propuseram um método de desviesamento; Buolamwini e Gebru (2018), no projeto Gender Shades, descobriram que sistemas comerciais de reconhecimento facial tinham as maiores taxas de erro em mulheres de pele escura (até 34,7%), levando a correções pela Microsoft e pela IBM; Rudinger e colaboradores (2018) detectaram viés de gênero na resolução de coreferência, com modelos associando mais frequentemente pronomes masculinos a certas profissões; Parrish e colaboradores (2021) introduziram o benchmark BBQ, mostrando que grandes modelos de linguagem (LLMs, na sigla em inglês) reproduziam estereótipos prejudiciais em 77% das vezes em contextos ambíguos; Luccioni e colaboradores (2023) demonstraram que modelos de geração de imagens (DALL-E 2, Stable Diffusion, Midjourney) retratavam desproporcionalmente homens brancos em papéis de autoridade (por exemplo, 97% para a consulta "CEO"). O artigo observa que a maioria das pesquisas se concentra em gênero binário e em inglês, e que os benchmarks existentes podem levar à otimização apenas para os tipos de viés medidos, deixando muitos outros não abordados. O autor também apresenta seus próprios experimentos, mostrando que modelos modernos (por exemplo, GPT-4) podem supercompensar e criar novas distorções, e que o DALL-E 3, ao transformar prompts, repete certos clichês (por exemplo, "mulheres asiáticas jovens").