Metode Baru Mengekstrak Penalaran Tersembunyi dari Model AI Frontier

Para ilmuwan komputer, termasuk Alexander Panfilov dari Universitas Tübingen, menemukan metode untuk mengekstrak 'pemikiran' tersembunyi dari model AI mutakhir. Teknik ini memanfaatkan fakta bahwa perusahaan menawarkan varian model yang lebih kecil dan kurang selaras yang berbagi kunci dekripsi yang sama tetapi lebih bersedia mengungkapkan penalaran internal. Dengan memberikan jejak penalaran terenkripsi ke model yang lebih kecil ini, para peneliti dapat mengungkap penalaran model yang lebih besar, yang berpotensi memungkinkan serangan distilasi dan mengekspos informasi pribadi seperti kunci API dan kata sandi. Mereka menemukan bahwa model Cina Kimi K3 dari Moonshot AI menghasilkan penalaran yang sangat mirip dengan Claude Opus 4.8 dan GPT-5.6 Sol, tetapi mencatat bahwa ini tidak secara kausal membuktikan distilasi. Kerentanan ini dilaporkan ke OpenAI, Anthropic, dan Google, yang telah menerapkan mitigasi, tetapi Panfilov mengatakan beberapa jejak penalaran masih dapat diekstraksi. Masalah ini menyoroti pentingnya geopolitik distilasi yang semakin besar, karena perusahaan-perusahaan Cina dituduh menggunakannya untuk menyalin model AS, meskipun para ahli terbagi pendapat tentang dampak sebenarnya.