Mengamankan Agen AI, Server MCP, dan Aplikasi LLM dalam Produksi: Kerangka Kerja Praktis

Panduan baru dari Mend.io, 'Securing AI agents, MCP servers & LLM apps: A practical framework', menyasar celah keamanan yang muncul akibat adopsi cepat agen, integrasi MCP, dan aplikasi berbasis LLM. AppSec tradisional menjadi tidak efektif karena perilaku agen muncul dari model, prompt sistem, konteks yang diambil, input pengguna, dan alat, bukan hanya dari kode, sehingga memunculkan mode kegagalan baru seperti injeksi prompt melalui data, agen dengan izin berlebihan, model yang tidak lagi didukung, dan deskripsi alat yang berbahaya. Panduan ini memperkenalkan peta serangan lima lapis yang mencakup lapisan interaksi, agen, integrasi, model, dan kode, serta menyediakan artefak untuk penemuan, seperti memindai repositori dan mengaudit akun layanan, serta untuk perbaikan, termasuk daftar periksa 12 poin untuk miskonfigurasi dan alur prioritas. Untuk keamanan runtime, direkomendasikan guardrail sebagai SDK Python dalam aplikasi atau server API berdiri sendiri, pola penguatan prompt sistem, dan penyelarasan dengan standar seperti NIST AI RMF dan OWASP AIMA. Roadmap kematangan mencakup empat tahap mulai dari Emerging hingga Leading dengan penilaian mandiri 15 pertanyaan. Poin-poin kunci menekankan bahwa perilaku agen muncul dari banyak faktor, ada lima lapis risiko, dan triase otomatis harus didukung bukti sementara penerimaan risiko tetap menjadi keputusan manusia.