Lima Peran AI dalam Keamanan Siber: Dari Akselerator Serangan hingga Target Utama

Artikel yang ditulis oleh tiga pakar keamanan siber dari Rostelecom, Positive Technologies, dan FMBA ini mengkaji lima peran AI dalam keamanan siber. Pertama, AI mempercepat serangan dengan menurunkan biaya rekayasa sosial, pembuatan kode, dan pembentukan logika. Kedua, asisten yang terkompromi pada titik akhir yang terinfeksi dapat membocorkan data, melakukan tindakan, merusak reputasi, menghabiskan sumber daya, atau meracuni konteks. Ketiga, kebocoran sering kali berasal dari izin yang berlebihan, konteks yang kaya, atau pemeriksaan keluaran yang lemah. Keempat, AI dapat berfungsi sebagai perisai, mengurutkan peristiwa dan menyusun investigasi, tetapi tidak boleh membuat keputusan akhir. Kelima, AI sebagai target langsung rentan terhadap injeksi perintah, sumber yang diracuni, dan penanganan keluaran yang tidak aman, terutama ketika memiliki agensi. Para penulis berargumen bahwa perintah sistem bukanlah kunci keamanan; kontrol deterministik seperti mesin kebijakan, RBAC (Role-Based Access Control), dan langkah persetujuan sangat penting.