에밀리 벤더, '확률적 앵무새'에 대한 오해를 바로잡다

최근 IEEE Spectrum과의 인터뷰에서 워싱턴 대학교 전산언어학 교수 에밀리 M. 벤더는 2021년 논문에 담긴 '확률적 앵무새(stochastic parrots)' 비유에 대한 오해를 지적했습니다. 그녀는 이 용어가 통계적 예측을 통해 합성 텍스트를 생성하는 대규모 언어 모델에만 적용되며, 체스 엔진이나 알파폴드와 같은 다른 AI 시스템에는 적용되지 않는다고 강조했습니다. 벤더는 '인공지능'이라는 용어의 광범위한 사용이 기술적 차이를 모호하게 만들고 기업의 과대광고를 돕는다고 비판했습니다. 그녀는 이 논문의 합성 텍스트 부분이 오픈AI가 챗GPT를 출시한 이후 더 관련성이 높아졌다고 언급했습니다. 벤더는 원래 논문에서 착취적 노동 관행과 데이터 도용 문제를 다루지 않은 것을 아쉬워했습니다. 또한 그녀는 대규모 언어 모델의 출력이 이해가 될 때, 이는 기계가 이해해서가 아니라 인간의 해석 때문이라고 강조했습니다.