Ikhtisar Singkat tentang Bias Gender dalam AI

Artikel tersebut menekankan bahwa model AI yang dilatih dengan data manusia mewarisi dan bahkan memperkuat stereotip gender yang ada. Artikel ini mengutip karya-karya berpengaruh: Bolukbasi dkk. (2016) menunjukkan bahwa embedding kata mengandung analogi seksis (misalnya, "pria adalah programmer sebagaimana wanita adalah ibu rumah tangga") dan mengusulkan metode debiasing; Buolamwini dan Gebru (2018) dalam proyek Gender Shades menemukan bahwa sistem pengenalan wajah komersial memiliki tingkat kesalahan tertinggi pada wanita berkulit gelap (hingga 34,7%), yang menyebabkan perbaikan oleh Microsoft dan IBM; Rudinger dkk. (2018) mendeteksi bias gender dalam resolusi koreferensi, dengan model lebih sering menghubungkan kata ganti laki-laki dengan profesi tertentu; Parrish dkk. (2021) memperkenalkan tolok ukur BBQ, menunjukkan bahwa model bahasa besar (LLM) mereproduksi stereotip berbahaya 77% dari waktu dalam konteks ambigu; Luccioni dkk. (2023) menunjukkan bahwa model generasi gambar (DALL-E 2, Stable Diffusion, Midjourney) secara tidak proporsional menggambarkan pria kulit putih dalam peran otoritatif (misalnya, 97% untuk kueri "CEO"). Artikel tersebut mencatat bahwa sebagian besar penelitian berfokus pada gender biner dan bahasa Inggris, dan bahwa tolok ukur yang ada dapat mengarah pada optimasi hanya untuk jenis bias yang diukur, meninggalkan banyak jenis bias lainnya yang tidak ditangani. Penulis juga memaparkan eksperimen mereka sendiri, menunjukkan bahwa model modern (misalnya, GPT-4) dapat melakukan kompensasi berlebihan dan menciptakan distorsi baru, dan bahwa DALL-E 3, saat mengubah prompt, mengulangi stereotip tertentu (misalnya, "wanita Asia muda").