OWASP LLM10: Sınırsız Tüketim — Modern Dil Modellerinin Kaynak Yoğun İstemler Üzerinde Test Edilmesi

Büyük dil modelleri kurumsal sistemlerde giderek daha fazla kullanılıyor, ancak popülerlikleriyle birlikte tehdit profili de değişiyor: saldırganlar, modelleri CPU süresi, bellek ve binlerce token tüketen kaynak yoğun görevleri yerine getirmeye zorlayan istekler formüle edebilir. OWASP Top 10 for LLM Applications, üretken yapay zekaya Hizmet Reddi (DoS) fikrini uyarlayan LLM10: Sınırsız Tüketim kategorisini içerir. Prompt Injection veya Veri Sızıntısı gibi klasik saldırılardan farklı olarak, bu saldırılar hesaplama kaynaklarını hedefler. Makale birkaç saldırı sınıfını açıklamaktadır: özyinelemeli bağlam genişletme (Quine benzeri Özyineleme), fraktal iç içe geçirme, hesaplama patlaması, anlamsal kombinatoryal patlama, çok etmenli simülasyon ve glitch token istismarı. Yazarlar, 200'ü LLM10'u hedefleyen 2000'den fazla kötü niyetli promptu destekleyen AI Red Team sistemini kullanarak deneyler gerçekleştirdiler. İki Rus amiral gemisi modelini test ettiler: YandexGPT Lite 5 ve GigaChat Lite. Çalışma, İnovasyon Teşvik Fonu (fasie.ru) tarafından desteklendi ve örnekler araştırma ve eğitim amaçlı olarak verilmiştir.