OWASP LLM10: الاستهلاك غير المحدود — اختبار نماذج اللغة الحديثة على المطالبات كثيفة الموارد

تُستخدم نماذج اللغة الكبيرة بشكل متزايد في الأنظمة المؤسسية، ولكن مع انتشارها يتغير ملف التهديدات: يمكن للمهاجمين صياغة طلبات تجبر النماذج على تنفيذ مهام كثيفة الاستهلاك للموارد، مما يستهلك وقت المعالجة والذاكرة وآلاف الرموز. تتضمن قائمة OWASP العشرة الأوائل لتطبيقات LLM فئة LLM10: الاستهلاك غير المحدود، التي تكيّف فكرة رفض الخدمة (Denial of Service) مع الذكاء الاصطناعي التوليدي. وعلى عكس الهجمات الكلاسيكية مثل حقن التعليمات (Prompt Injection) أو تسريب البيانات، تستهدف هذه الهجمات الموارد الحسابية. تصف المقالة عدة فئات من الهجمات: التوسع التكراري للسياق (Quine-like Recursion)، والتداخل الكسيري، والانفجار الحسابي، والانفجار التوافقي الدلالي، ومحاكاة الوكلاء المتعددين، وإساءة استخدام الرموز غير التقليدية (Glitch Tokens). أجرى المؤلفون تجارب باستخدام نظام فريق الاختراق الأحمر للذكاء الاصطناعي (AI Red Team)، الذي يدعم أكثر من 2000 مطالبة خبيثة، منها 200 تستهدف LLM10. اختبروا نموذجين روسيين رائدين: YandexGPT Lite 5 وGigaChat Lite. دعمت الدراسة مؤسسة تعزيز الابتكار (fasie.ru)، والأمثلة مقدمة لأغراض البحث والتعليم.