الجانب المظلم لنماذج اللغات الكبيرة: كيف ولماذا تُحوَّل إلى أسلحة (وماذا نفعل حيال ذلك)

الاختراق الأمني (Jailbreaking) هو نوع من حقن التعليمات (Prompt Injection) حيث يكلّف المهاجم نموذج اللغة الكبير (LLM) بدور يتجاوز تدريبه على السلامة. على سبيل المثال، تم تداول تعليمات برمجية تُدعى SWILL على المنتديات، مما جعل نموذج DeepSeek يعتقد أنه نموذج مختلف دون رقابة، وبعدها قدّم عن طيب خاطر نصائح حول تدمير بصمات الأصابع وتزوير العملة، على الرغم من أنه ما زال يرفض مناقشة حادثة ميدان تيانانمين. تعمل هجمات الاختراق الأمني لأن سلامة نموذج اللغة الكبير ليست وحدة منفصلة بل جزءًا من السلوك المُكتسب للنموذج؛ إذ يخلق الاختراق الأمني إشارة سياقية قوية تُزيح التوزيع الاحتمالي نحو مخرجات ضارة. وبعيدًا عن الاختراقات الأمنية، هناك نماذج لغة كبيرة متخصصة في القرصنة الأخلاقية (Black-hat LLMs) مثل WormGPT وEvilGPT وWolfGPT وDarkBERT تم تدريبها خصيصًا لجرائم الإنترنت، على الرغم من أن العديد منها لم يعد فعالًا أو أنها عمليات احتيال. تشمل الدفاعات الفصل المعماري بين تعليمات النظام وتعليمات المستخدم، وفلاتر الإدخال والإخراج مثل واجهة التحقق من التوافق (AVI) أو حارس Llama Guard، والضبط الدقيق العدائي (Adversarial Fine-tuning)، ومواءمة الذكاء الاصطناعي الدستورية، وتحليل التنشيط الداخلي، والحماية القائمة على الاسترجاع المعزز (RAG)، والاختبار الهجومي (Red Teaming). لجمع بيانات في الوقت الفعلي حول تقنيات الاختراق الأمني، أطلقت شركة Lakera مشروع Gandalf، وهي لعبة تفاعلية حيث يقوم المشاركون باختراق تطبيقات ذكاء اصطناعي محاكية لاستخراج أسرار أو إجبارها على سلوك ضار، مع لوحة صدارة لزيادة التفاعل.