Model Bahasa Tidak Dapat Memicu Revolusi Ilmiah, tetapi Model Dunia Mungkin Bisa

Dalam sebuah posisi paper berjudul 'LLMs can't jump,' Tom Zahavy dari Google DeepMind berargumen bahwa model bahasa tidak dapat memicu revolusi ilmiah karena mereka kekurangan mekanisme kognitif kunci untuk menciptakan ide-ide yang benar-benar baru. Ia menggunakan model penemuan Einstein sebagai siklus: dari pengalaman sensorik melalui 'lompatan' intuitif ke aksioma, kemudian derivasi logis ke kesimpulan yang dapat diuji. Zahavy membedakan tiga jenis penalaran: deduksi, induksi, dan abduksi, dan mengklaim bahwa LLM menangani induksi dan deduksi tetapi tidak 'abduksi manipulatif' — menciptakan penyebab yang belum ada templat linguistiknya. Ia mengilustrasikannya dengan karya Einstein, dengan mencatat bahwa tidak ada krisis data pada saat itu; fisika Newton sangat akurat kecuali anomali kecil di orbit Merkurius, dan AI yang murni mengoptimalkan mungkin saja menciptakan planet hipotetis daripada memikirkan ulang ruang dan waktu. Zahavy berargumen bahwa 'pemikiran paling bahagia' Einstein — pengamat yang jatuh bebas — berasal dari simulasi yang berwujud, perasaan tubuh, bukan manipulasi formula. Ia membandingkannya dengan momen eureka Archimedes di bak mandi. Model bahasa kekurangan dasar sensorik ini; mereka seperti 'Kamar Cina' — memindahkan simbol tanpa akses ke pengalaman yang berwujud. Ia mencatat bahwa sistem seperti AI Scientist milik Sakana dan AlphaEvolve milik DeepMind dapat mengotomatiskan sains tetapi hanya menggabungkan kembali konsep yang ada atau memerlukan sinyal kesalahan yang jelas, yang tidak pernah dimiliki Einstein. Sebagai jalur potensial, Zahavy menyarankan model dunia yang konsisten secara fisik: generator video seperti Veo hanya memprediksi frame berikutnya, tetapi model dunia yang dapat dikendalikan aksi seperti Genie memungkinkan agen untuk campur tangan dan menjalankan eksperimen kontrafaktual, memberikan umpan balik yang diperlukan untuk menciptakan aksioma baru. Zahavy bersikap hati-hati, dengan mengatakan bahwa paper tersebut 'menyarankan' tetapi tidak membuktikan bahwa lompatan ini adalah hambatan kritis.