Emily Bender Desfaz Equívocos Sobre 'Papagaios Estocásticos'
OpenAI
Google/DeepMind
Emily M. Bender, coautora do artigo marcante de 2021 'On the Dangers of Stochastic Parrots', esclarece equívocos comuns sobre a metáfora, argumentando que ela descreve especificamente modelos de linguagem de grande porte (LLMs) que produzem texto sintético, não toda a IA. Ela também discute a vagueza do termo 'inteligência artificial', as práticas trabalhistas exploratórias na IA e a importância de reconhecer o senso de construção humana na avaliação de modelos de linguagem.
Em uma entrevista recente ao IEEE Spectrum, a professora de linguística computacional da Universidade de Washington, Emily M. Bender, abordou equívocos sobre a metáfora dos 'papagaios estocásticos' de seu artigo de 2021. Ela enfatizou que o termo se aplica apenas a grandes modelos de linguagem que geram texto sintético por meio de predição estatística, não a outros sistemas de IA, como motores de xadrez ou AlphaFold. Bender criticou o uso amplo de 'inteligência artificial' por obscurecer diferenças tecnológicas e ajudar no hype corporativo. Ela observou que a seção do artigo sobre texto sintético se tornou mais relevante depois que a OpenAI lançou o ChatGPT. Bender lamentou não ter abordado práticas trabalhistas exploratórias e roubo de dados no artigo original. Ela também destacou que, quando as saídas dos LLMs fazem sentido, isso se deve à interpretação humana, não à compreensão da máquina.
Fonte: IEEE Spectrum AI —
original