एआई में लैंगिक पूर्वाग्रह का संक्षिप्त अवलोकन

लेख इस बात पर जोर देता है कि मानव डेटा पर प्रशिक्षित एआई मॉडल मौजूदा लिंग रूढ़ियों को विरासत में लेते हैं और यहां तक कि उन्हें बढ़ाते भी हैं। यह प्रभावशाली कार्यों का हवाला देता है: बोलुकबासी एट अल. (2016) ने दिखाया कि शब्द एम्बेडिंग में लैंगिक समानताएँ होती हैं (उदाहरण के लिए, "पुरुष प्रोग्रामर है, जैसे महिला गृहिणी है") और एक निष्पक्षता विधि का प्रस्ताव रखा; बुओलामविनी और गेब्रू (2018) ने जेंडर शेड्स परियोजना में पाया कि वाणिज्यिक चेहरे की पहचान प्रणालियों में गहरे रंग की महिलाओं पर सबसे अधिक त्रुटि दर थी (34.7% तक), जिसके कारण माइक्रोसॉफ्ट और आईबीएम ने सुधार किए; रुडिंगर एट अल. (2018) ने कोरफेरेंस समाधान में लिंग पूर्वाग्रह का पता लगाया, जिसमें मॉडल अक्सर पुरुष सर्वनामों को कुछ व्यवसायों से जोड़ते हैं; पैरिश एट अल. (2021) ने बीबीक्यू बेंचमार्क पेश किया, जिसमें दिखाया गया कि बड़े भाषा मॉडल (एलएलएम) अस्पष्ट संदर्भों में 77% बार हानिकारक रूढ़ियों को दोहराते हैं; लुक्कियोनी एट अल. (2023) ने प्रदर्शित किया कि छवि निर्माण मॉडल (डीएएल-ई 2, स्टेबल डिफ्यूजन, मिडजर्नी) आधिकारिक भूमिकाओं में अनुपातहीन रूप से सफेद पुरुषों को चित्रित करते हैं (उदाहरण के लिए, "सीईओ" क्वेरी के लिए 97%)। लेख में कहा गया है कि अधिकांश शोध द्विआधारी लिंग और अंग्रेजी पर केंद्रित है, और मौजूदा बेंचमार्क केवल मापे गए प्रकार के पूर्वाग्रह के लिए अनुकूलन का कारण बन सकते हैं, जिससे कई अन्य अनसुलझे रह जाते हैं। लेखक अपने स्वयं के प्रयोग भी प्रस्तुत करते हैं, जो दर्शाते हैं कि आधुनिक मॉडल (जैसे, जीपीटी-4) अति-क्षतिपूर्ति कर सकते हैं और नई विकृतियाँ पैदा कर सकते हैं, और डीएएल-ई 3, प्रॉम्प्ट बदलते समय, कुछ रूढ़ियों को दोहराता है (उदाहरण के लिए, "युवा एशियाई महिलाएं")।