Los modelos de lenguaje no pueden desencadenar revoluciones científicas, pero los modelos del mundo podrían lograrlo

En un documento de posición titulado 'Los LLM no pueden saltar', Tom Zahavy de Google DeepMind sostiene que los modelos de lenguaje no pueden desencadenar revoluciones científicas porque carecen del mecanismo cognitivo clave para crear ideas genuinamente nuevas. Utiliza el modelo de descubrimiento de Einstein como un ciclo: desde la experiencia sensorial, a través de un 'salto' intuitivo hasta los axiomas, y luego la derivación lógica a conclusiones comprobables. Zahavy distingue tres tipos de razonamiento: deducción, inducción y abducción, y afirma que los LLM manejan la inducción y la deducción, pero no la 'abducción manipulativa' — inventar una causa para la cual aún no existe una plantilla lingüística. Ilustra esto con el trabajo de Einstein, señalando que en aquel momento no había crisis de datos; la física de Newton era muy precisa, excepto por una pequeña anomalía en la órbita de Mercurio, y una IA puramente optimizadora podría haber inventado un planeta hipotético en lugar de repensar el espacio y el tiempo. Zahavy argumenta que el 'pensamiento más feliz' de Einstein — el observador en caída libre — provino de la simulación encarnada, una sensación corporal, no de la manipulación de fórmulas. Compara esto con el momento eureka de Arquímedes en la bañera. Los modelos de lenguaje carecen de este fundamento sensorial; son como la 'habitación china' — mueven símbolos sin acceso a la experiencia encarnada. Señala que sistemas como el científico de IA de Sakana y AlphaEvolve de DeepMind pueden automatizar la ciencia, pero o recombinan conceptos existentes o requieren una señal de error clara, que Einstein nunca tuvo. Como posible camino, Zahavy sugiere modelos de mundo físicamente consistentes: los generadores de video como Veo solo predicen el siguiente cuadro, pero los modelos de mundo controlables por acciones como Genie permiten a los agentes intervenir y realizar experimentos contrafácticos, proporcionando la retroalimentación necesaria para inventar nuevos axiomas. Zahavy es cauto, diciendo que el documento 'sugiere' pero no prueba que este salto sea el cuello de botella crítico.