AI에서의 성별 편향에 대한 간략한 개요

이 기사는 인간 데이터로 학습된 AI 모델이 기존의 성별 고정관념을 그대로 물려받을 뿐 아니라 오히려 증폭시키는 경우가 많다는 점을 강조한다. 이를 뒷받침하는 주요 연구들도 함께 소개된다. Bolukbasi 등(2016)의 연구는 워드 임베딩(word embedding, 단어를 벡터 공간에 표현하는 기법)에 성차별적 유추 관계가 내재되어 있음을 보여주었다(예: "남성과 프로그래머의 관계는 여성과 주부의 관계와 같다"). 이들은 이러한 편향을 제거하기 위한 디바이어싱(debiasing) 기법도 제안했다. Buolamwini와 Gebru(2018)는 Gender Shades 프로젝트를 통해 상업용 얼굴 인식 시스템이 피부색이 어두운 여성에게서 가장 높은 오류율(최대 34.7%)을 보인다는 사실을 밝혀냈고, 이는 이후 Microsoft와 IBM이 시스템을 개선하는 계기가 되었다. Rudinger 등(2018)은 상호참조 해결(coreference resolution) 과정에서 성별 편향을 발견했는데, 모델들이 특정 직업을 남성 대명사와 더 자주 연결짓는 경향을 보였다. Parrish 등(2021)은 BBQ 벤치마크를 도입하여, 모호한 맥락에서 대형언어모델(LLM, Large Language Model)이 77%의 확률로 유해한 고정관념을 재생산한다는 사실을 보여주었다. Luccioni 등(2023)은 이미지 생성 모델(DALL-E 2, Stable Diffusion, Midjourney)이 권위 있는 역할을 백인 남성으로 불균형하게 묘사한다는 점을 입증했는데, 예를 들어 "CEO"라는 검색어에 대해 97%가 백인 남성 이미지로 나타났다. 이 기사는 대부분의 연구가 이분법적 성별과 영어에만 초점을 맞추고 있다는 점, 그리고 기존 벤치마크들이 측정 가능한 특정 유형의 편향에만 최적화를 유도할 뿐 다른 많은 편향 유형은 여전히 방치될 수 있다는 점을 지적한다. 저자는 또한 자신이 직접 수행한 실험 결과도 제시하는데, GPT-4와 같은 최신 모델들이 편향을 과도하게 교정하려다 오히려 새로운 왜곡을 만들어내는 경우가 있으며, DALL-E 3는 프롬프트를 변형하는 과정에서 특정 클리셰(예: "젊은 아시아 여성")를 반복적으로 재생산하는 경향을 보인다는 점을 확인했다고 밝힌다.