AIにおけるジェンダーバイアスの概要

この記事は、人間のデータで訓練されたAIモデルが、既存の性別ステレオタイプを継承し、さらに増幅させることを強調しています。影響力のある研究として、Bolukbasiら（2016年）は、単語埋め込みに性差別的な類推（例：「男性はプログラマーにとって、女性は主婦にとってのようなもの」）が含まれていることを示し、偏りを除去する方法を提案しました。BuolamwiniとGebru（2018年）は、Gender Shadesプロジェクトで、商用の顔認識システムが肌の色が濃い女性に対して最も高い誤り率（最大34.7%）を示すことを発見し、MicrosoftとIBMが修正を行いました。Rudingerら（2018年）は、照応解決における性別バイアスを検出し、モデルが特定の職業に対して男性代名詞をより頻繁に結び付けることを示しました。Parrishら（2021年）は、BBQベンチマークを導入し、大規模言語モデルが曖昧な文脈で有害なステレオタイプを77%の確率で再現することを示しました。Luccioniら（2023年）は、画像生成モデル（DALL-E 2、Stable Diffusion、Midjourney）が、権威ある役割において白人の男性を不釣り合いに描写することを実証しました（例えば、「CEO」というクエリに対して97%）。この記事は、ほとんどの研究が二元的な性別と英語に焦点を当てており、既存のベンチマークが測定された種類のバイアスのみの最適化につながる可能性があり、その他の多くのバイアスが対処されないまま残ることを指摘しています。著者はまた、自身の実験を示し、現代のモデル（例：GPT-4）が過剰修正し、新たな歪みを生み出す可能性があること、またDALL-E 3がプロンプトを変換する際に特定の定型表現（例：「若いアジア人女性」）を繰り返すことを示しています。