Emily Bender démystifie les idées reçues sur les « perroquets stochastiques »

Lors d'un entretien récent avec IEEE Spectrum, Emily M. Bender, professeure de linguistique computationnelle à l'Université de Washington, a abordé les malentendus autour de la métaphore des « perroquets stochastiques » issue de son article de 2021. Elle a souligné que ce terme ne s'applique qu'aux grands modèles de langage générant du texte synthétique par prédiction statistique, et non à d'autres systèmes d'intelligence artificielle comme les moteurs d'échecs ou AlphaFold. Bender a critiqué l'utilisation large du terme « intelligence artificielle » qui occulte les différences technologiques et sert le battage publicitaire des entreprises. Elle a noté que la section de l'article consacrée au texte synthétique est devenue plus pertinente après le lancement de ChatGPT par OpenAI. Bender regrette de ne pas avoir abordé les pratiques de travail abusives et le vol de données dans l'article original. Elle a également souligné que lorsque les sorties des grands modèles de langage semblent sensées, cela est dû à l'interprétation humaine, et non à une compréhension par la machine.