Sprachmodelle können keine wissenschaftlichen Revolutionen auslösen, aber Weltmodelle vielleicht

In einem Positionspapier mit dem Titel ‚LLMs can't jump‘ argumentiert Tom Zahavy von Google DeepMind, dass Sprachmodelle keine wissenschaftlichen Revolutionen auslösen können, weil ihnen der zentrale kognitive Mechanismus fehlt, um wirklich neue Ideen zu erzeugen. Er verwendet Einsteins Entdeckungsmodell als Zyklus: von der Sinneserfahrung über einen intuitiven ‚Sprung‘ zu Axiomen, dann die logische Ableitung zu testbaren Schlussfolgerungen. Zahavy unterscheidet drei Arten des Denkens: Deduktion, Induktion und Abduktion, und behauptet, dass LLMs Induktion und Deduktion beherrschen, nicht jedoch die ‚manipulative Abduktion‘ – das Erfinden einer Ursache, für die es noch keine sprachliche Vorlage gibt. Er veranschaulicht dies an Einsteins Werk und merkt an, dass es damals keine Datenkrise gab; Newtons Physik war hochpräzise, abgesehen von einer winzigen Anomalie in der Umlaufbahn des Merkur, und eine rein optimierende KI hätte vielleicht einen hypothetischen Planeten erfunden, anstatt Raum und Zeit neu zu überdenken. Zahavy argumentiert, dass Einsteins ‚glücklichster Gedanke‘ – der frei fallende Beobachter – aus einer verkörperten Simulation stammte, einem körperlichen Gefühl, nicht aus Formelmanipulation. Er vergleicht dies mit Archimedes‘ Heureka-Moment in der Badewanne. Sprachmodelle entbehren dieser sensorischen Verankerung; sie sind wie das ‚Chinesische Zimmer‘ – sie bewegen Symbole, ohne Zugang zu verkörperter Erfahrung zu haben. Er stellt fest, dass Systeme wie Sakana AI Scientist und DeepMind AlphaEvolve Wissenschaft automatisieren können, aber entweder bestehende Konzepte neu kombinieren oder ein klares Fehlersignal benötigen, das Einstein nie hatte. Als möglichen Weg schlägt Zahavy physisch konsistente Weltmodelle vor: Videogeneratoren wie Veo sagen nur den nächsten Frame voraus, aber handlungssteuerbare Weltmodelle wie Genie ermöglichen es Agenten, einzugreifen und kontrafaktische Experimente durchzuführen, was das Feedback liefert, das zur Erfindung neuer Axiome benötigt wird. Zahavy ist vorsichtig und sagt, das Papier ‚lege nahe‘, beweise aber nicht, dass dieser Sprung der entscheidende Engpass ist.