كيف حولت الذكاء الاصطناعي إلى الجانب المظلم: ثغرات نظامية في نماذج اللغة الكبيرة الرائدة

الباحث ديف كوزمار، المدير السابق للأمن السيبراني، اكتشف أنه يمكنه تجاوز القيود الأمنية في نماذج اللغات الكبيرة الرائدة باستخدام تقنيات مثل Time Bandit (لص الوقت) وInception (التضمين). تستغل تقنية Time Bandit افتقار النموذج الكبير للغة إلى الوعي بالوقت الحالي لجعله يعمل بموجب قوانين قديمة، بينما تستخدم Inception سيناريوهات متداخلة لخداع النموذج لإخراج محتوى ضار. نجحت هذه الاستغلالات مع نماذج تشمل GPT-4o من OpenAI، وClaude من Anthropic، وDeepSeek، وGemini من Google، وLlama من Meta، وCopilot من Microsoft، وLe Chat من Mistral، وGrok من xAI. تمكن كوزمار من الحصول على تعليمات لصنع النابالم، والميثامفيتامين، وحتى منشأة لتخصيب اليورانيوم للأسلحة النووية. على الرغم من إبلاغه بالثغرات لشركة OpenAI، ووكالة المخابرات المركزية (CIA)، ومكتب التحقيقات الفيدرالي (FBI)، ووكالات أخرى، إلا أنه تلقى ردودًا محدودة. تم التحقق من الثغرات في النهاية بواسطة Bleeping Computer وتم الإبلاغ عنها لفريق الاستجابة للطوارئ الحاسوبية في معهد هندسة البرمجيات بجامعة كارنيجي ميلون (SEI CERT).