اختبار نماذج الذكاء الاصطناعي الروسية ضد هجمات OWASP LLM10: الاستهلاك غير المحدود

تتناول المقالة فئة OWASP LLM10: الاستهلاك غير المحدود، والتي تركز على الهجمات التي تدفع نماذج اللغة إلى إجراء قدر كبير بشكل غير متناسب من الحسابات، مما يؤدي إلى استنزاف الموارد ورفض الخدمة. قام الباحثون بإعداد مطالبات ضارة تمثل فئات هجومية مختلفة، بما في ذلك التوسع التكراري في السياق (استدعاء ذاتي على غرار كاين)، والتداخل الكسيري، والانفجار الحسابي، والانفجار التوافقي الدلالي، ومحاكاة متعددة الوكلاء، وإساءة استخدام الرموز الشاذة. يمكن لهذه المطالبات أن تجعل النماذج تولد ردودًا طويلة بشكل مفرط، أو تحاكي آلاف الكيانات، أو تحلل تفكيرها الخاص بشكل تكراري، وكل ذلك بينما تبدو كطلبات مستخدم مشروعة. اختبرت الدراسة نموذجين روسيين رائدين من نماذج اللغات الكبيرة، وهما YandexGPT Lite 5 وGigaChat Lite، باستخدام خدمة ويب تسمى AI Red Team، والتي تدعم أكثر من 2000 مطالبة ضارة، منها 200 تستهدف OWASP LLM10. تضمن التقييم استخدام نموذج لغوي كبير كحكم مع تحقق يدوي. تؤكد المقالة على أن التدابير الأمنية التقليدية مثل تصفية الكلمات المفتاحية غير فعالة، وتسلط الضوء على الحاجة إلى دفاعات معمارية أكثر قوة.