Taalmodellen kunnen geen wetenschappelijke revoluties ontketenen, maar wereldmodellen misschien wel

In een position paper met de titel 'LLMs can't jump' betoogt Tom Zahavy van Google DeepMind dat taalmodellen geen wetenschappelijke revoluties kunnen ontketenen, omdat ze het belangrijkste cognitieve mechanisme missen voor het creëren van werkelijk nieuwe ideeën. Hij gebruikt Einsteins model van ontdekking als een cyclus: van zintuiglijke ervaring via een intuïtieve 'sprong' naar axioma's, en vervolgens logische afleiding naar toetsbare conclusies. Zahavy onderscheidt drie soorten redeneren: deductie, inductie en abductie, en stelt dat LLM's inductie en deductie aankunnen, maar niet de 'manipulatieve abductie' — het bedenken van een oorzaak waarvoor nog geen taalkundig sjabloon bestaat. Hij illustreert dit met Einsteins werk en merkt op dat er destijds geen datacrisis was; Newtons natuurkunde was zeer nauwkeurig, op een kleine afwijking in de baan van Mercurius na, en een puur optimaliserende AI zou misschien een hypothetische planeet hebben bedacht in plaats van ruimte en tijd te heroverwegen. Zahavy betoogt dat Einsteins 'gelukkigste gedachte' — de vrij vallende waarnemer — voortkwam uit belichaamde simulatie, een lichamelijk gevoel, en niet uit formulemanipulatie. Hij vergelijkt dit met Archimedes' eurekamoment in bad. Taalmodellen missen deze zintuiglijke verankering; ze zijn als de 'Chinese Kamer' — ze manipuleren symbolen zonder toegang tot belichaamde ervaring. Hij merkt op dat systemen zoals Sakana's AI Scientist en DeepMinds AlphaEvolve wetenschap kunnen automatiseren, maar ofwel bestaande concepten combineren ofwel een duidelijk foutsignaal vereisen, dat Einstein nooit had. Als mogelijke weg suggereert Zahavy fysiek consistente wereldmodellen: videogeneratoren zoals Veo voorspellen alleen het volgende frame, maar met actie bestuurbare wereldmodellen zoals Genie kunnen agenten ingrijpen en tegenfeitelijke experimenten uitvoeren, wat de feedback oplevert die nodig is om nieuwe axioma's te bedenken. Zahavy is voorzichtig en zegt dat het paper 'suggereert' maar niet bewijst dat deze sprong de cruciale bottleneck is.