Sumber Intelijen Ancaman untuk Keamanan Sistem AI

Artikel yang ditulis oleh Viacheslav Mosin dari AI Talent Hub ITMO dan ITMO AI Security Lab ini memberikan gambaran umum tentang sumber-sumber utama untuk mengumpulkan ancaman keamanan informasi yang terkait dengan sistem AI. Disebutkan bahwa CEO Nvidia, Jensen Huang, menyebut peluncuran ChatGPT sebagai 'momen iPhone bagi AI', dan mencatat bahwa pada tahun 2025, 88% perusahaan melaporkan penggunaan AI dalam setidaknya satu fungsi bisnis, menurut McKinsey. Sumber-sumber yang ditinjau mencakup MITRE ATLAS, dokumen-dokumen OWASP Top 10 (untuk LLM, Agentic, Agentic Skills, MCP), Google Secure AI Framework (SAIF), dan Model Ancaman Keamanan Siber AI dari Sber. MITRE ATLAS dipuji karena frekuensi pembaruannya yang tinggi, taktik dan teknik yang terstruktur, serta repositori GitHub yang dapat dibaca mesin, sehingga cocok untuk membangun model ancaman. Daftar-daftar OWASP populer dan terintegrasi ke dalam perangkat keamanan tetapi terbatas pada sepuluh risiko masing-masing. Google SAIF menyediakan peta risiko dengan komponen, risiko, dan langkah-langkah mitigasi, tetapi dengan jumlah ancaman yang lebih sedikit dan abstraksi tingkat tinggi. Model Sber, yang diperbarui pada Juli 2026, menjelaskan 37 ancaman dan 51 metode implementasi, membedakan antara penyerang eksternal dan internal. Artikel ini kemungkinan menyimpulkan bahwa MITRE ATLAS adalah sumber terbaik untuk pemodelan ancaman yang komprehensif.