Emily Bender, 'Stokastik Papağanlar' Hakkındaki Yanlış Anlamaları Çürütüyor
OpenAI
Google/DeepMind
Emily M. Bender, 2021 tarihli önemli makale 'Stokastik Papağanların Tehlikeleri Üzerine'nin ortak yazarı, metaforla ilgili yaygın yanlış anlamaları netleştiriyor ve bunun özellikle sentetik metin üreten büyük dil modellerini (LLM) tanımladığını, tüm yapay zekayı değil, savunuyor. Ayrıca 'yapay zeka' teriminin belirsizliğini, yapay zekadaki sömürücü iş gücü uygulamalarını ve dil modellerini değerlendirmede insan anlamlandırmasının önemini tartışıyor.
IEEE Spectrum ile yaptığı son bir röportajda, Washington Üniversitesi'nde hesaplamalı dilbilim profesörü olan Emily M. Bender, 2021 tarihli makalesindeki 'stokastik papağanlar' metaforuyla ilgili yanlış anlamaları ele aldı. Bu terimin yalnızca istatistiksel tahmin yoluyla sentetik metin üreten büyük dil modelleri için geçerli olduğunu, satranç motorları veya AlphaFold gibi diğer yapay zeka sistemlerini kapsamadığını vurguladı. Bender, 'yapay zeka' teriminin geniş kullanımının teknolojik farklılıkları gizlediğini ve kurumsal abartıya hizmet ettiğini eleştirdi. Makalenin sentetik metinle ilgili bölümünün, OpenAI'ın ChatGPT'yi piyasaya sürmesinden sonra daha da güncel hale geldiğini belirtti. Bender, orijinal makalede sömürücü işgücü uygulamalarını ve veri hırsızlığını ele almadığı için pişman olduğunu ifade etti. Ayrıca, büyük dil modeli çıktılarının anlamlı görünmesinin, makinenin anladığından değil, insan yorumundan kaynaklandığını vurguladı.
Kaynak: IEEE Spectrum AI —
orijinal
