The Download: kerentanan LLM dan kebangkitan pembangkit listrik panas bumi
Para peneliti menemukan kelemahan mendasar dalam cara kerja model bahasa besar yang memungkinkan mereka melewati perlindungan dan memperoleh informasi berbahaya. Di New Mexico, perusahaan Zanskar berhasil menghidupkan kembali pembangkit listrik panas bumi yang terbengkalai dengan mengebor sumur baru menggunakan teknologi modern.
Dalam artikel MIT Technology Review dilaporkan bahwa tim peneliti mempresentasikan karya di konferensi AI terkemuka yang menyatakan bahwa model bahasa besar tidak mungkin dibuat sepenuhnya aman dari peretasan karena kelemahan mendasar dalam cara kerjanya. Kelemahan ini terkait dengan cara model menentukan sumber instruksi, yang memungkinkan penyerang memaksa model untuk mengungkapkan informasi yang dilatih untuk disembunyikan, seperti sintesis kokain atau sabotase sistem navigasi pesawat. Para peneliti percaya bahwa masalah ini mungkin tidak dapat dipecahkan. Dalam artikel lain diceritakan bagaimana perusahaan kecil Zanshar pada Juni 2024 membeli pembangkit listrik panas bumi di New Mexico yang mengalami penurunan kinerja karena reservoir bawah tanah yang mendingin. Dua tahun kemudian, berkat sumur baru yang ditemukan dengan pemodelan canggih dan teknologi pengeboran modern, pembangkit tersebut kembali beroperasi dengan kapasitas penuh. Ini menunjukkan bahwa di bawah tanah tersimpan potensi yang belum dimanfaatkan untuk menghasilkan listrik tanpa emisi.
Sumber: MIT Technology Review —
asli