Emily Bender kumoaa väärinkäsityksiä 'stokastisista papukaijoista'
OpenAI
Google/DeepMind
Emily M. Bender, jonka merkittävän vuoden 2021 artikkelin 'On the Dangers of Stochastic Parrots' toinen kirjoittaja hän on, selventää yleisiä väärinkäsityksiä metaforasta ja väittää, että se kuvaa nimenomaan suuria kielimalleja, jotka tuottavat synteettistä tekstiä, ei kaikkea tekoälyä. Hän käsittelee myös termin 'tekoäly' epämääräisyyttä, hyväksikäyttäviä työkäytäntöjä tekoälyssä ja inhimillisen merkityksenannon tärkeyttä kielimallien arvioinnissa.
Tuoreessa IEEE Spectrum -lehden haastattelussa Washingtonin yliopiston laskennallisen kielitieteen professori Emily M. Bender otti kantaa väärinkäsityksiin, joita liittyy hänen vuonna 2021 julkaistun artikkelinsa 'stokastiset papukaijat' -metaforaan. Hän korosti, että termi koskee vain suuria kielimalleja, jotka tuottavat synteettistä tekstiä tilastollisen ennustamisen avulla, eikä muita tekoälyjärjestelmiä, kuten shakkiohjelmia tai AlphaFoldia. Bender kritisoi 'tekoälyn' laajaa käyttöä, joka hämärtää teknologisia eroja ja edistää yritysten markkinointipuhetta. Hän totesi, että artikkelin osio synteettisestä tekstistä tuli entistä ajankohtaisemmaksi OpenAI:n julkaistua ChatGPT:n. Bender harmitteli, ettei alkuperäisessä artikkelissa käsitelty hyväksikäyttäviä työkäytäntöjä ja datan varastamista. Hän korosti myös, että kun kielimallien tuotokset vaikuttavat järkeviltä, se johtuu ihmisten tulkinnasta, ei koneen ymmärryksestä.
Lähde: IEEE Spectrum AI —
Alkuperäinen