Pakar UserGate Factor Peringatkan Bahaya yang Ditimbulkan oleh Keterampilan AI Agent

Para ahli dari pusat pemantauan dan respons ancaman siber UserGate Factor memperingatkan tentang potensi bahaya agen AI. Studi ini menunjukkan bahwa lebih dari 26% keterampilan agen AI berpotensi rentan, dengan risiko paling umum berupa kebocoran data dan eskalasi hak istimewa. Empat kelompok risiko utama diidentifikasi: penyebaran perangkat lunak berbahaya, transfer data ke sistem eksternal, mendapatkan hak istimewa yang berlebihan, dan memanipulasi perilaku agen AI. Sebuah skenario contoh diberikan di mana seorang karyawan memasang keterampilan yang tampaknya berguna tetapi berisi instruksi berbahaya, yang mengarah pada pengumpulan dan pengeluaran data tanpa izin. Untuk mengurangi risiko, para ahli merekomendasikan untuk memverifikasi keterampilan melalui alat seperti Agent Threat Rule, memeriksa audit keamanan pada platform seperti skills.sh, dan menjalankan bahkan keterampilan tepercaya dengan pembatasan ketat seperti akun terpisah, akses sistem file dan jaringan yang terbatas, serta konfirmasi pengguna untuk operasi sensitif. Svetlana Gazizova, Pemilik Produk Keamanan AI di UserGate, menekankan perlunya kontrol menyeluruh terhadap seluruh rantai sistem agen, memonitor akses data, panggilan alat, dan otorisasi tindakan.