Emily Bender desmonta los conceptos erróneos sobre los 'loros estocásticos'
OpenAI
Google/DeepMind
Emily M. Bender, coautora del artículo histórico de 2021 'Sobre los peligros de los loros estocásticos', aclara malentendidos comunes sobre la metáfora, argumentando que describe específicamente a los grandes modelos de lenguaje (LLM, por sus siglas en inglés) que producen texto sintético, no a toda la IA. También aborda la vaguedad del término 'inteligencia artificial', las prácticas laborales explotadoras en la IA y la importancia de reconocer el sentido humano en la evaluación de los modelos de lenguaje.
En una reciente entrevista con IEEE Spectrum, Emily M. Bender, profesora de lingüística computacional de la Universidad de Washington, abordó los malentendidos sobre la metáfora de los 'loros estocásticos' de su artículo de 2021. Enfatizó que el término se aplica únicamente a los grandes modelos de lenguaje que generan texto sintético mediante predicción estadística, no a otros sistemas de inteligencia artificial como los motores de ajedrez o AlphaFold. Bender criticó el uso amplio de 'inteligencia artificial' por oscurecer las diferencias tecnológicas y ayudar al bombo corporativo. Señaló que la sección del artículo sobre texto sintético se volvió más relevante después de que OpenAI lanzara ChatGPT. Bender lamentó no haber cubierto las prácticas laborales explotadoras y el robo de datos en el artículo original. También destacó que cuando los resultados de los LLM tienen sentido, es debido a la interpretación humana, no a la comprensión de la máquina.
Fuente: IEEE Spectrum AI —
original