خبراء من UserGate Factor يحذرون من أن مهارات وكلاء الذكاء الاصطناعي قد تشكل تهديدًا

يحذر خبراء من مركز مراقبة التهديدات السيبرانية والاستجابة لها في شركة UserGate Factor من الخطر المحتمل الذي تشكله وكلاء الذكاء الاصطناعي. تشير الدراسة إلى أن أكثر من 26% من مهارات وكلاء الذكاء الاصطناعي قد تكون عرضة للخطر، مع كون المخاطر الأكثر شيوعًا هي تسرب البيانات وتصعيد الامتيازات. تم تحديد أربع مجموعات رئيسية من المخاطر: توزيع البرامج الضارة، نقل البيانات إلى أنظمة خارجية، الحصول على امتيازات مفرطة، والتلاعب بسلوك وكيل الذكاء الاصطناعي. يتم تقديم سيناريو مثالي حيث يقوم موظف بتثبيت مهارة تبدو مفيدة تحتوي على تعليمات خبيثة، مما يؤدي إلى جمع البيانات ونقلها بشكل غير مصرح به. للتخفيف من المخاطر، يوصي الخبراء بالتحقق من المهارات من خلال أدوات مثل Agent Threat Rule، ومراجعة عمليات التدقيق الأمني على منصات مثل skills.sh، وتشغيل حتى المهارات الموثوقة مع قيود صارمة مثل حسابات منفصلة، والوصول المحدد إلى نظام الملفات والشبكة، وموافقة المستخدم على العمليات الحساسة. تؤكد سفيتلانا غازيزوفا، مالكة منتج أمن الذكاء الاصطناعي في UserGate، على ضرورة التحكم الشامل في سلسلة النظام الوكيل بأكملها، ومراقبة الوصول إلى البيانات، ودعوات الأدوات، وتفويض الإجراءات.