Cinsiyet Önyargısına Kısa Bir Bakış: Yapay Zeka Modelleri Gerçek Dünya Stereotiplerini Nasıl Yansıtıyor?

Makale, insan verileriyle eğitilen yapay zeka modellerinin mevcut toplumsal cinsiyet stereotiplerini miras aldığını ve hatta güçlendirdiğini vurguluyor. Etkili çalışmalara atıfta bulunuyor: Bolukbasi ve diğerleri (2016), kelime gömme vektörlerinin cinsiyetçi analojiler içerdiğini (örn. "erkek programcıya neyse kadın da ev hanımına odur") gösterdi ve bir yanlılık giderme yöntemi önerdi; Buolamwini ve Gebru (2018) Gender Shades projesinde ticari yüz tanıma sistemlerinin en yüksek hata oranlarını koyu tenli kadınlarda (%34,7'ye kadar) buldu ve bu durum Microsoft ve IBM'in düzeltmeler yapmasına yol açtı; Rudinger ve diğerleri (2018), bazı mesleklerle erkek zamirlerini daha sık ilişkilendiren modellerle, gönderim çözümlemesinde toplumsal cinsiyet yanlılığı tespit etti; Parrish ve diğerleri (2021), BBQ kıyaslamasını tanıttı ve büyük dil modellerinin (BDM'ler) belirsiz bağlamlarda zararlı stereotipleri %77 oranında yeniden ürettiğini gösterdi; Luccioni ve diğerleri (2023), görüntü üretim modellerinin (DALL-E 2, Stable Diffusion, Midjourney) otoriter rollerde orantısız şekilde beyaz erkekleri tasvir ettiğini (örn. "CEO" sorgusu için %97) ortaya koydu. Makale, çoğu araştırmanın ikili cinsiyete ve İngilizceye odaklandığını ve mevcut kıyaslamaların yalnızca ölçülen yanlılık türlerine yönelik optimizasyona yol açabileceğini, diğer birçok yanlılığın ele alınmadan kaldığını belirtiyor. Yazar ayrıca kendi deneylerini sunarak modern modellerin (örn. GPT-4) aşırı telafi yapıp yeni çarpıklıklar yaratabileceğini ve DALL-E 3'ün istemleri dönüştürürken belirli kalıpları (örn. "genç Asyalı kadınlar") tekrarladığını gösteriyor.