UserGate Factor Uzmanları, Yapay Zeka Ajan Becerilerinin Tehdit Oluşturabileceği Konusunda Uyarıyor

Uzmanlar, UserGate Factor siber tehdit izleme ve müdahale merkezinden, yapay zeka ajanlarının potansiyel tehlikesine karşı uyarıyor. Araştırma, yapay zeka ajan yeteneklerinin %26'sından fazlasının potansiyel olarak savunmasız olduğunu, en yaygın risklerin ise veri sızıntısı ve ayrıcalık yükseltme olduğunu vurguluyor. Dört ana risk grubu tanımlanıyor: kötü amaçlı yazılım dağıtımı, harici sistemlere veri aktarımı, aşırı ayrıcalıklar elde etme ve yapay zeka ajan davranışını manipüle etme. Bir çalışanın, kötü niyetli talimatlar içeren kullanışlı görünen bir yetenek yüklemesi ve bunun sonucunda yetkisiz veri toplama ve sızdırmaya yol açması örnek bir senaryo olarak sunuluyor. Riskleri azaltmak için uzmanlar, Agent Threat Rule gibi araçlarla yeteneklerin doğrulanmasını, skills.sh gibi platformlarda güvenlik denetimlerinin kontrol edilmesini ve güvenilir yeteneklerin bile ayrı hesaplar, sınırlı dosya sistemi ve ağ erişimi ile hassas işlemler için kullanıcı onayı gibi katı kısıtlamalarla çalıştırılmasını öneriyor. UserGate'in Yapay Zeka Güvenliği Ürün Sahibi Svetlana Gazizova, tüm ajan sistem zincirinin uçtan uca kontrol edilmesi, veri erişimi, araç çağrıları ve eylem yetkilendirmesinin izlenmesi gerektiğini vurguluyor.