Tổng quan ngắn gọn về thiên kiến giới trong AI

Bài viết nhấn mạnh rằng các mô hình AI (trí tuệ nhân tạo) được huấn luyện trên dữ liệu do con người tạo ra sẽ kế thừa, và thậm chí khuếch đại, những định kiến giới tính đã tồn tại từ trước. Bài viết trích dẫn một số công trình có ảnh hưởng lớn: Bolukbasi và cộng sự (2016) cho thấy các embedding từ (word embeddings) chứa những phép loại suy mang tính phân biệt giới tính (ví dụ, "man is to programmer as woman is to homemaker" – "nam giới tương ứng với lập trình viên như nữ giới tương ứng với người nội trợ") và đề xuất một phương pháp khử thiên lệch (debiasing); Buolamwini và Gebru (2018) trong dự án Gender Shades phát hiện rằng các hệ thống nhận diện khuôn mặt thương mại có tỷ lệ sai cao nhất đối với phụ nữ da màu (lên đến 34,7%), dẫn đến việc Microsoft và IBM phải khắc phục; Rudinger và cộng sự (2018) phát hiện thiên lệch giới tính trong bài toán phân giải đồng tham chiếu (coreference resolution), khi các mô hình thường liên kết đại từ nam giới với một số ngành nghề nhất định nhiều hơn; Parrish và cộng sự (2021) giới thiệu bộ chuẩn đánh giá BBQ, cho thấy các mô hình ngôn ngữ lớn (LLM – Large Language Model) lặp lại những định kiến có hại tới 77% số lần trong các ngữ cảnh mơ hồ; Luccioni và cộng sự (2023) chứng minh rằng các mô hình sinh ảnh (DALL-E 2, Stable Diffusion, Midjourney) mô tả nam giới da trắng trong các vai trò có quyền lực một cách không tương xứng (ví dụ, 97% đối với truy vấn "CEO"). Bài viết cũng lưu ý rằng phần lớn các nghiên cứu chỉ tập trung vào giới tính nhị phân và ngôn ngữ tiếng Anh, và các bộ chuẩn đánh giá hiện có có thể khiến việc tối ưu hóa chỉ nhằm vào những loại thiên lệch đã được đo lường, để lại nhiều dạng thiên lệch khác chưa được giải quyết. Tác giả cũng trình bày các thí nghiệm của riêng mình, cho thấy các mô hình hiện đại (ví dụ, GPT-4) có thể bù trừ quá mức (overcompensate) và tạo ra những sai lệch mới, và rằng DALL-E 3, khi biến đổi các câu lệnh (prompt), lại lặp lại một số khuôn mẫu nhất định (ví dụ, "phụ nữ châu Á trẻ tuổi").