Kurzer Überblick über Geschlechterverzerrungen in der KI

Der Artikel betont, dass KI-Modelle, die mit menschlichen Daten trainiert werden, bestehende Geschlechterstereotype übernehmen und sogar verstärken. Er führt einflussreiche Arbeiten an: Bolukbasi et al. (2016) zeigten, dass Wortvektoren sexistische Analogien enthalten (z. B. "Mann verhält sich zu Programmierer wie Frau zu Hausfrau") und schlugen eine Methode zur Entzerrung vor; Buolamwini und Gebru (2018) stellten im Projekt "Gender Shades" fest, dass kommerzielle Gesichtserkennungssysteme bei dunkelhäutigen Frauen die höchsten Fehlerraten aufwiesen (bis zu 34,7 %), was zu Korrekturen bei Microsoft und IBM führte; Rudinger et al. (2018) entdeckten geschlechtsspezifische Verzerrungen in der Koreferenzauflösung, wobei Modelle männliche Pronomen häufiger mit bestimmten Berufen verknüpften; Parrish et al. (2021) führten den BBQ-Benchmark ein, der zeigte, dass große Sprachmodelle (LLMs) in mehrdeutigen Kontexten in 77 % der Fälle schädliche Stereotype reproduzierten; Luccioni et al. (2023) demonstrierten, dass Bildgenerierungsmodelle (DALL-E 2, Stable Diffusion, Midjourney) weiße Männer überproportional in Autoritätsrollen darstellten (z. B. 97 % bei der Abfrage "CEO"). Der Artikel merkt an, dass sich die meiste Forschung auf binäres Geschlecht und Englisch konzentriert und dass bestehende Benchmarks zu einer Optimierung nur für die gemessenen Arten von Verzerrungen führen können, während viele andere unberücksichtigt bleiben. Der Autor stellt auch eigene Experimente vor, die zeigen, dass moderne Modelle (z. B. GPT-4) überkompensieren und neue Verzerrungen erzeugen können, und dass DALL-E 3 bei der Umwandlung von Aufforderungen bestimmte Stereotype wiederholt (z. B. "junge asiatische Frauen").