AI di Kedua Sisi: Wawancara dengan Kepala Keamanan Svoy Bank
Alexey Akhmedev, kepala keamanan informasi di Svoy Bank, membahas bagaimana AI mengubah ancaman dan pertahanan siber. Ia mencatat bahwa serangan bertenaga AI, termasuk deepfake dan eksploitasi kerentanan, mulai bermunculan, sementara tim internal menggunakan AI untuk pengujian penetrasi. Bank mempersiapkan diri untuk model AI asing yang dibatasi dan menekankan pelatihan karyawan untuk melawan deepfake.
Dalam wawancara dengan Habr, Alexey Akhmedev, kepala keamanan informasi di Svoy Bank (bagian dari grup fintech SVOY), membahas peran ganda AI dalam keamanan siber. Ia menjelaskan bahwa risiko yang terkait dengan AI harus dinilai per kasus penggunaan, bukan secara global. Serangan terbaru pada perimeter eksternal bank tidak mungkin terjadi tanpa AI, melibatkan deepfake dan eksploitasi kerentanan kode. Sebaliknya, penguji penetrasi internal menggunakan model AI untuk menemukan kerentanan secara lebih efisien, menemukan celah pada kode lama yang sebelumnya terlewatkan. Bank melatih karyawan untuk menggunakan model bahasa Rusia dan mengembangkan filter untuk mencegah pengiriman data pribadi ke model bahasa asing (LLM), sebagaimana diwajibkan oleh undang-undang (152-FZ). Pertahanan utama terhadap deepfake adalah pelatihan karyawan, mendorong komunikasi terbuka dengan tim keamanan, dan mengajarkan berpikir kritis. Untuk serangan reputasi, mereka menggunakan modul OSINT dalam uji penetrasi tahunan. Ke depan, Akhmedev melihat potensi dalam pengujian penetrasi agenik, tetapi menekankan perlunya proses yang terdokumentasi dengan baik. Ia memperkirakan masuknya penjahat dunia maya pemula karena AI yang mudah diakses, deepfake yang semakin baik, penemuan kerentanan yang lebih cepat, dan fokus pada aset digital baru seperti rubel digital.
Sumber: Habr — хаб ИИ —
asli