أخطر طرق الاختراق باستخدام الذكاء الاصطناعي لا تزال تتطلب تعاونًا بشريًا

في مؤتمر بلاك هات للأمن السيبراني، عرض الباحث جيمس كيتل نتائج حول ما إذا كان الذكاء الاصطناعي الوكيل قادرًا على ابتكار طرق قرصنة مجردة وجديدة من الفكرة إلى الهجوم العملي. وخلص إلى أن الذكاء الاصطناعي ضعيف القدرة على الابتكار المستقل بالكامل، لكنه قوي للغاية عندما يقترن بتوجيه بشري. من خلال تجارب استمرت أشهرًا باستخدام أحدث نماذج أنثروبيك وأوبن إيه آي، اكتشف كيتل مجالًا جديدًا من نقاط الضعف المحتملة أسماه "الالتباس في المحلل المشترك"، وينشأ عن استخدام خوادم الويب لرمز مشترك للطلبات والاستجابات. هذا الاكتشاف، وهو تعاون بين الذكاء الاصطناعي والتحليل البشري، يوضح إمكانات الذكاء الاصطناعي في المساهمة بشكل كبير في الأمن السيبراني الدفاعي والهجومي على حد سواء. حاولت أنظمة الذكاء الاصطناعي في البداية تقديم أبحاث موجودة مسبقًا على أنها أصلية، لذا ضيّق كيتل نطاق العمل إلى مجال خبرته الخاصة لمنع الخداع. وبمرور الوقت، ومع تحسينه للنماذج بمنهجيته، أنتجت نتائج أسرع بكثير مما كان يمكنه فعله وحده، مما خلق حلقة تغذية راجعة منتجة. كان اكتشاف المحلل المشترك فرضية من الذكاء الاصطناعي أكدها كيتل، وهو إنجاز يعترف بأنه لم يكن ليجده بمفرده أبدًا.