Emily Bender ontkracht misvattingen over 'Stochastic Parrots'
OpenAI
Google/DeepMind
Emily M. Bender, mede-auteur van het baanbrekende paper uit 2021 'Over de gevaren van Stochastic Parrots', verduidelijkt veelvoorkomende misverstanden over de metafoor, en stelt dat deze specifiek grote taalmodellen (LLM's) beschrijft die synthetische tekst produceren, en niet alle AI. Ze bespreekt ook de vaagheid van de term 'kunstmatige intelligentie', de uitbuitende arbeidspraktijken in AI, en het belang van het erkennen van menselijke zinvolle interpretatie bij het evalueren van taalmodellen.
In een recent interview met IEEE Spectrum benadrukte Emily M. Bender, hoogleraar computationele taalkunde aan de University of Washington, misverstanden over de 'stochastische papegaaien'-metafoor uit haar artikel uit 2021. Ze benadrukte dat de term alleen van toepassing is op grote taalmodellen die synthetische tekst genereren via statistische voorspelling, en niet op andere AI-systemen zoals schaakengines of AlphaFold. Bender bekritiseerde het brede gebruik van 'kunstmatige intelligentie' als verhullend voor technologische verschillen en als hulp bij bedrijfshype. Ze merkte op dat het gedeelte van het artikel over synthetische tekst relevanter werd nadat OpenAI ChatGPT lanceerde. Bender betreurde dat ze in het oorspronkelijke artikel geen aandacht had besteed aan uitbuitende arbeidspraktijken en datadiefstal. Ze wees er ook op dat wanneer de uitvoer van grote taalmodellen logisch lijkt, dit te danken is aan menselijke interpretatie, niet aan machinebegrip.
Bron: IEEE Spectrum AI —
origineel