نظرة عامة مختصرة على التحيز الجنسي في الذكاء الاصطناعي

تؤكد المقالة أن نماذج الذكاء الاصطناعي المدربة على بيانات بشرية ترث القوالب النمطية الجنسانية القائمة بل وتضخمها. تستشهد المقالة بأعمال مؤثرة: أظهر بولوكباسي وآخرون (2016) أن التضمينات الكلامية تحتوي على تشبيهات جنسية (مثل "الرجل للمبرمج كالمرأة لربة المنزل") واقترحوا طريقة لتصحيح التحيز؛ ووجد بوالامويني وجيبرو (2018) في مشروع ظلال النوع الاجتماعي أن أنظمة التعرف على الوجوه التجارية لديها أعلى معدلات خطأ مع النساء ذوات البشرة الداكنة (حتى 34.7%)، مما دفع مايكروسوفت وآي بي إم إلى إجراء إصلاحات؛ وكشف رودينغر وآخرون (2018) عن تحيز جنساني في دقة الإحالة، حيث تربط النماذج الضمائر المذكرية بمهن معينة في كثير من الأحيان؛ وقدم باريش وآخرون (2021) معيارًا لقياس التحيز أطلقوا عليه اسم بي بي كيو، وأظهروا أن نماذج اللغة الكبيرة تنتج قوالب نمطية ضارة في 77% من الحالات في السياقات الغامضة؛ وأظهر لوتشوني وآخرون (2023) أن نماذج توليد الصور مثل دال-إي 2 وستيبل ديفيوجن وميدجورني تصور الرجال البيض بشكل غير متناسب في الأدوار ذات السلطة (مثل 97% لاستعلام "مدير تنفيذي"). وتشير المقالة إلى أن معظم الأبحاث تركز على الجنس الثنائي واللغة الإنجليزية، وأن المعايير الحالية قد تؤدي إلى تحسين النماذج فقط لأنواع التحيز المقاسة، تاركة أنواعًا أخرى كثيرة دون معالجة. كما يقدم المؤلف تجاربه الخاصة، موضحًا أن النماذج الحديثة مثل جي بي تي-4 يمكن أن تبالغ في التصحيح وتخلق تشوهات جديدة، وأن دال-إي 3 عند تحويله للطلبات يكرر بعض الصور النمطية (مثل "نساء آسيويات شابات").