AI vs AI: Keamanan Runtime Agen yang Semakin Kuat Setiap Kali Digunakan

Ahli keamanan Tencent dengan pengalaman 12 tahun, Duan Haotong, akan tampil di konferensi AICon 2026 di Shenzhen pada 21-22 Agustus. Presentasinya yang berjudul 'Menggunakan AI untuk Melawan AI: Membangun Garis Keamanan Runtime Agen yang Semakin Kuat Seiring Pemakaian' membahas risiko yang muncul berupa injeksi prompt, penyimpangan niat, penyalahgunaan alat, dan kebocoran data saat agen memasuki skenario inti perusahaan. Ia berargumen bahwa keamanan berbasis aturan tradisional gagal menghadapi serangan semantik dan perilaku non-deterministik. Solusi yang diusulkan mengadopsi pendekatan prinsip pertama dengan keamanan AI-native, mencakup deteksi injeksi prompt sebelum insiden (dari pencocokan kata kunci ke pemahaman semantik), deteksi penyimpangan niat selama insiden dan sandboxing agen untuk eksekusi alat terisolasi, serta pencegahan kebocoran data setelah insiden melalui perlindungan keluar dan penyesuaian model kecil. Sistem ini bergantung pada putaran umpan balik yang melakukan iterasi sendiri menggunakan data produksi nyata. Konferensi ini juga menampilkan sepuluh forum tentang infrastruktur AI, rekayasa inferensi, robot AGI (kecerdasan umum buatan), dan keamanan agen, dengan lebih dari 50 ahli dari Tencent, Alibaba, Huawei, Baidu, dan Ant Group.