Aperçu des biais de genre dans l'IA

L'article souligne que les modèles d'IA entraînés sur des données humaines héritent et amplifient même les stéréotypes de genre existants. Il cite des travaux influents : Bolukbasi et al. (2016) ont montré que les plongements de mots contiennent des analogies sexistes (par exemple, « l'homme est au programmeur ce que la femme est à la femme au foyer ») et ont proposé une méthode de débiaisage ; Buolamwini et Gebru (2018) dans le projet Gender Shades ont constaté que les systèmes commerciaux de reconnaissance faciale avaient les taux d'erreur les plus élevés sur les femmes à la peau foncée (jusqu'à 34,7 %), ce qui a conduit à des corrections par Microsoft et IBM ; Rudinger et al. (2018) ont détecté un biais de genre dans la résolution de coréférence, les modèles associant plus souvent des pronoms masculins à certaines professions ; Parrish et al. (2021) ont introduit le benchmark BBQ, montrant que les grands modèles de langage (LLM) reproduisaient des stéréotypes nuisibles dans 77 % des cas dans des contextes ambigus ; Luccioni et al. (2023) ont démontré que les modèles de génération d'images (DALL-E 2, Stable Diffusion, Midjourney) représentaient de manière disproportionnée des hommes blancs dans des rôles d'autorité (par exemple, 97 % pour la requête « CEO »). L'article note que la plupart des recherches se concentrent sur le genre binaire et l'anglais, et que les benchmarks existants peuvent conduire à une optimisation uniquement pour les types de biais mesurés, laissant de nombreux autres non traités. L'auteur présente également ses propres expériences, montrant que les modèles modernes (par exemple, GPT-4) peuvent surcompenser et créer de nouvelles distorsions, et que DALL-E 3, lors de la transformation de prompts, répète certains tropes (par exemple, « jeunes femmes asiatiques »).