Yapay Zekâ Yapay Zekâya Karşı: Her Kullanımda Güçlenen Ajan Çalışma Zamanı Güvenliği
Tencent
Tencent güvenlik uzmanı Duan Haotong, AICon 2026 Shenzhen'de yapay zekâ ajanları için yapay zekâyı kullanarak yapay zekâyla mücadele eden uçtan uca bir çalışma zamanı güvenlik çözümünü paylaşacak. Yaklaşım, olay öncesi, sırası ve sonrası savunmaları kapsayarak prompt enjeksiyonu tespiti, niyet sapması tespiti, sandboxing ve veri sızıntısı önleme gibi önlemleri içeriyor ve gerçek üretim verilerine dayalı olarak sürekli kendini iyileştirmeye olanak tanıyor.
Tencent'in 12 yıllık deneyime sahip güvenlik uzmanı Duan Haotong, 21-22 Ağustos tarihlerinde Shenzhen'de düzenlenecek AICon 2026 konferansında bir sunum yapacak. 'Yapay Zekâ ile Yapay Zekâ ile Mücadele: Kullanıldıkça Güçlenen Bir Ajan Çalışma Zamanı Güvenlik Hattı Oluşturma' başlıklı konuşması, ajanların kurumsal temel senaryolara girmesiyle ortaya çıkan prompt enjeksiyonu, niyet sapması, araç kötüye kullanımı ve veri sızıntısı gibi yeni ortaya çıkan riskleri ele alıyor. Geleneksel kural tabanlı güvenliğin anlamsal saldırılar ve deterministik olmayan davranışlar karşısında başarısız olduğunu savunuyor. Önerilen çözüm, yapay zekâya özgü güvenlik ile temel ilkeler yaklaşımını benimsiyor; olay öncesi prompt enjeksiyon tespiti (anahtar kelime eşleştirmeden anlamsal anlamaya), olay sırasında niyet sapması tespiti ve izole araç yürütme için ajan sanal alanı, olay sonrası ise dışa yönelik koruma ve küçük model ince ayarı ile veri sızıntısını önleme adımlarını kapsıyor. Sistem, gerçek üretim verilerini kullanan kendi kendini yinelemeli bir geri bildirim döngüsüne dayanıyor. Konferansta ayrıca yapay zekâ altyapısı, çıkarım mühendisliği, robotik AGI (Yapay Genel Zekâ) ve ajan güvenliği konularında on forum yer alacak; Tencent, Alibaba, Huawei, Baidu ve Ant Group'tan 50'den fazla uzman katılacak.
Kaynak: InfoQ 中国 —
orijinal