Emily Bender räumt mit Missverständnissen über 'Stochastic Parrots' auf
OpenAI
Google/DeepMind
Emily M. Bender, Mitautorin des wegweisenden Papiers 'On the Dangers of Stochastic Parrots' aus dem Jahr 2021, klärt häufige Missverständnisse über die Metapher auf und argumentiert, dass sie sich speziell auf große Sprachmodelle (LLMs) bezieht, die synthetischen Text erzeugen, und nicht auf alle KI. Sie diskutiert auch die Unschärfe des Begriffs 'künstliche Intelligenz', die ausbeuterischen Arbeitspraktiken in der KI und die Bedeutung der Anerkennung menschlicher Sinnstiftung bei der Bewertung von Sprachmodellen.
In einem kürzlich geführten Interview mit IEEE Spectrum hat sich Emily M. Bender, Professorin für Computerlinguistik an der University of Washington, zu Missverständnissen über die Metapher der 'stochastischen Papageien' aus ihrem Paper von 2021 geäußert. Sie betonte, dass der Begriff nur auf große Sprachmodelle zutrifft, die synthetischen Text durch statistische Vorhersage erzeugen, nicht auf andere KI-Systeme wie Schachmaschinen oder AlphaFold. Bender kritisierte die weit gefasste Verwendung des Begriffs 'Künstliche Intelligenz', da sie technologische Unterschiede verschleiere und zur Marketing-Hypes beitrage. Sie merkte an, dass der Abschnitt des Papers über synthetischen Text relevanter wurde, nachdem OpenAI ChatGPT auf den Markt brachte. Bender bedauerte, im ursprünglichen Paper nicht auf ausbeuterische Arbeitspraktiken und Datendiebstahl eingegangen zu sein. Sie wies auch darauf hin, dass verständliche Ausgaben von Sprachmodellen auf menschlicher Interpretation beruhen und nicht auf maschinellem Verständnis.
Quelle: IEEE Spectrum AI —
Original