Enkripsi Diterobos: Bagaimana Model AI dengan Mudah Mengekspos Data Sensitif Pengguna

Para peneliti dari Jerman telah menerbitkan makalah berjudul 'Mencuri Jejak Penalaran dari API LLM Kepemilikan' yang menunjukkan bagaimana model AI dari Anthropic, OpenAI, dan Google dapat membocorkan data pengguna yang sensitif. Saat melakukan tugas penalaran, model-model ini menghasilkan string terenkripsi yang disebut 'log penalaran' yang dikirim kembali ke server dengan setiap respons baru untuk memberikan konteks. Para peneliti menemukan bahwa log penalaran dapat disalin dan digunakan pada model lain dari perusahaan yang sama, termasuk versi yang lebih lama atau yang telah dimodifikasi. Jika model yang dimodifikasi telah dihapus langkah-langkah keamanannya melalui jailbreak, model tersebut dapat mendekripsi enkripsi log. Dengan menggunakan 6.708 repositori publik dari GitHub dan Hugging Face, mereka berhasil mendekripsi 315.320 log penalaran, yang berisi 62 kunci API, 33 kata sandi, 24 token akses, 30 alamat email pribadi, serta nama dan alamat pengelola proyek. Banyak dari detail ini hanya ada di log penalaran, tidak di tempat lain dalam sesi obrolan. Pakar keamanan Voldemaras Kadys dari Cybernews mencatat bahwa enkripsi tidak dipecahkan dalam arti tradisional; sebaliknya, berbagi jejak penalaran terenkripsi antara model yang kompatibel memungkinkan model yang lebih lemah menjadi kunci utama untuk dekripsi. Ia menyarankan untuk memperlakukan log penalaran sebagai data sensitif dan tidak pernah membagikannya.