Thales Group: Report on the Role of AI in Information Security

Pusat Analisis dan Riset Thales Group melakukan survei terhadap lebih dari 3.000 responden dari 20 negara. Hasilnya menunjukkan bahwa 34% organisasi telah menggunakan agen kecerdasan buatan, dan 73% berencana mengadopsinya dalam setahun ke depan. Seiring pertumbuhan aplikasi agen, kecepatan dan volume data yang diproses meningkat, sehingga keamanan menjadi lebih rumit. Jumlah perusahaan yang mengalokasikan anggaran khusus untuk keamanan kecerdasan buatan meningkat 50% per tahun (dari 20% menjadi 30%). Sebanyak 70% responden menyebut kecepatan perubahan dalam ekosistem kecerdasan buatan sebagai faktor utama yang memengaruhi keamanan. Sebanyak 61% melaporkan serangan terhadap aplikasi kecerdasan buatan untuk mencuri data, 48% mengalami kerugian akibat disinformasi yang dihasilkan kecerdasan buatan, dan 59% menghadapi deepfake. Target serangan utama tetap penyimpanan cloud (35%), aplikasi SaaS (perangkat lunak sebagai layanan) (34%), dan infrastruktur cloud (32%). Faktor manusia masih menjadi penyebab utama pelanggaran keamanan informasi (28%). Perusahaan yang rutin melakukan audit lebih jarang melaporkan kebocoran (54-57% tanpa kebocoran dibandingkan 6% pada yang tidak diaudit). Asosiasi Perlindungan Informasi Bisnis (BISA) mensurvei pakar Rusia: 89% menganggap transfer data rahasia ke layanan kecerdasan buatan publik sebagai risiko paling kritis, 59% menyebut ancaman dari agen kecerdasan buatan yang tertanam dan pengungkapan informasi kepada pihak ketiga. Sebanyak 46% pernah mengalami kebocoran melalui kecerdasan buatan. Mayoritas (59%) mendukung regulasi kecerdasan buatan sebagian, tetapi tanpa mengurangi efektivitas bisnis dan dengan dukungan untuk produk dalam negeri. Sebanyak 59% melihat manfaat kecerdasan buatan, tetapi mencatat perlunya aturan dan metode deteksi teks yang dihasilkan. Di organisasi, 46% mengizinkan kecerdasan buatan dengan batasan, 48% memberikan pelatihan karyawan, dan 30% meningkatkan kontrol.