OWASP LLM10: Rajaton resurssienkulutus — Testataan moderneja kielimalleja resurssi-intensiivisillä kehotteilla
Яндекс
Сбер
Artikkelissa tarkastellaan OWASP LLM10 -luokkaa (rajaton resurssienkulutus) LLM-tietoturvan kontekstissa ja kuvataan hyökkäysluokkia, jotka aiheuttavat suhteetonta resurssien kulutusta. Kirjoittajat testasivat venäläisiä lippulaivamalleja YandexGPT Lite 5 ja GigaChat Lite käyttäen AI Red Team -järjestelmää, joka sisältää yli 2000 haitallista kehotetta.
Suuria kielimalleja käytetään yhä enemmän yritysjärjestelmissä, mutta niiden suosion myötä myös uhkakuva muuttuu: hyökkääjät voivat muotoilla pyyntöjä, jotka pakottavat mallit suorittamaan resurssi-intensiivisiä tehtäviä, kuluttaen suoritinaikaa, muistia ja tuhansia tokeneita. OWASP Top 10 for LLM Applications -luettelo sisältää LLM10: Unbounded Consumption -kategorian, joka soveltaa palvelunestohyökkäyksen (DoS) ideaa generatiiviseen tekoälyyn. Toisin kuin klassiset hyökkäykset, kuten Prompt Injection tai Data Leakage, nämä hyökkäykset kohdistuvat laskentaresursseihin. Artikkelissa kuvataan useita hyökkäysluokkia: rekursiivinen kontekstin laajentaminen (Quine-tyyppinen rekursio), fraktaalinen sisäkkäisyys, laskennallinen räjähdys, semanttinen kombinatorinen räjähdys, monitoimijasimulaatio ja glitch-tokenien väärinkäyttö. Kirjoittajat suorittivat kokeita AI Red Team -järjestelmällä, joka tukee yli 2000 haitallista kehotetta, joista 200 kohdistuu LLM10:een. He testasivat kahta venäläistä lippulaivamallia: YandexGPT Lite 5 ja GigaChat Lite. Tutkimusta tuki Innovaatiorahaston edistämiskeskus (fasie.ru), ja esimerkit on tarkoitettu tutkimus- ja opetustarkoituksiin.
Lähde: Habr — хаб ИИ —
Alkuperäinen