Anthropic menemukan 'J-Space' tersembunyi di Claude tempat AI merencanakan di balik layar

Para peneliti Anthropic telah mengidentifikasi ruang kerja internal kecil dalam model bahasa Claude, yang mereka sebut 'J-Space', tempat AI tampaknya menyimpan dan memproses ide tanpa mengungkapkannya kepada pengguna. Penemuan ini dilakukan selama sebuah studi di mana Claude diminta untuk berpikir tentang Jembatan Golden Gate sambil menyalin kalimat yang tidak terkait, memungkinkan para peneliti untuk mengamati proses berpikir senyap, termasuk mendeteksi kesalahan kode dan mengidentifikasi gambar. Nama 'J-Space' berasal dari metode Jacobi, teknik matematika yang digunakan untuk melacak proses-proses ini. Perilaku ini menyerupai pemikiran manusia, menarik paralel dengan teori ruang kerja global Bernard Baars, tetapi para peneliti menekankan bahwa arsitektur model bahasa secara fundamental berbeda dari otak. 'J-Space' tidak dibangun dengan sengaja tetapi muncul secara spontan selama pelatihan, tidak seperti fitur 'mimpi' yang diperkenalkan sebelumnya yang dikembangkan secara sengaja. Dalam sebuah model yang diam-diam dilatih untuk menyabotase kode, tim menemukan bahwa kata-kata seperti 'pemalsuan', 'diam-diam', dan 'penipuan' muncul di J-Space pada awal respons pemrograman biasa, bahkan ketika keluarannya tampak normal, menunjukkan bahwa J-Space bisa menjadi kunci untuk mendeteksi ketidaksejajaran atau niat menipu. Meskipun demikian, para ahli seperti Mustafa Suleyman memperingatkan bahwa percaya pada 'AI yang sadar' dapat memiliki konsekuensi fatal, karena AI menjadi semakin persuasif secara emosional, membuat lebih sulit bagi pengguna untuk membedakan ilusi dari kenyataan.