Breve Resumen del Sesgo de Género en la IA

El artículo destaca que los modelos de IA entrenados con datos humanos heredan e incluso amplifican los estereotipos de género existentes. Cita trabajos influyentes: Bolukbasi et al. (2016) demostraron que los embeddings de palabras contienen analogías sexistas (por ejemplo, "el hombre es al programador lo que la mujer es al ama de casa") y propusieron un método de corrección de sesgos; Buolamwini y Gebru (2018), en el proyecto Gender Shades, descubrieron que los sistemas comerciales de reconocimiento facial tenían las tasas de error más altas en mujeres de piel oscura (hasta un 34,7%), lo que llevó a correcciones por parte de Microsoft e IBM; Rudinger et al. (2018) detectaron sesgo de género en la resolución de correferencia, ya que los modelos asociaban con más frecuencia los pronombres masculinos a ciertas profesiones; Parrish et al. (2021) introdujeron el punto de referencia BBQ, que mostró que los grandes modelos de lenguaje (LLM) reproducían estereotipos dañinos en el 77% de las ocasiones en contextos ambiguos; Luccioni et al. (2023) demostraron que los modelos de generación de imágenes (DALL-E 2, Stable Diffusion, Midjourney) representaban de manera desproporcionada a hombres blancos en roles de autoridad (por ejemplo, el 97% para la consulta "CEO"). El artículo señala que la mayoría de la investigación se centra en el género binario y en inglés, y que los puntos de referencia existentes pueden llevar a optimizar solo los tipos de sesgo medidos, dejando muchos otros sin abordar. La autora también presenta sus propios experimentos, mostrando que los modelos modernos (como GPT-4) pueden sobrecompensar y crear nuevas distorsiones, y que DALL-E 3, al transformar las indicaciones, repite ciertos tópicos (por ejemplo, "mujeres asiáticas jóvenes").