Краткий обзор гендерной предвзятости в ИИ
Модели ИИ отражают и часто усиливают существующие в реальном мире гендерные стереотипы. В статье рассматриваются ключевые исследования, выявляющие и измеряющие гендерную предвзятость в различных ИИ-системах: от word embeddings и распознавания лиц до LLM и моделей генерации изображений. Обсуждаются пробелы в современных исследованиях и необходимость учёта пересечения множества факторов, а также выходящих за рамки бинарного гендера.
Статья подчеркивает, что модели искусственного интеллекта, обученные на человеческих данных, наследуют и даже усиливают существующие гендерные стереотипы. Она ссылается на влиятельные работы: Болукаси и др. (2016) показали, что словесные векторные представления содержат сексистские аналогии (например, «мужчина относится к программисту, как женщина к домохозяйке») и предложили метод устранения
Показать ещё ↓
Источник: The Gradient —
оригинал