OWASP LLM10: Konsumsi Tak Terbatas — Menguji Model Bahasa Modern pada Perintah yang Intensif Sumber Daya

Model bahasa besar semakin banyak digunakan dalam sistem korporasi, tetapi seiring dengan popularitasnya, profil ancaman pun berubah: penyerang dapat merumuskan permintaan yang memaksa model untuk melakukan tugas yang intensif sumber daya, menghabiskan waktu CPU, memori, dan ribuan token. OWASP Top 10 untuk Aplikasi LLM mencakup kategori LLM10: Konsumsi Tanpa Batas, yang mengadaptasi ide Denial of Service (DoS) ke AI generatif. Tidak seperti serangan klasik seperti Prompt Injection atau Kebocoran Data, serangan ini menargetkan sumber daya komputasi. Artikel ini menjelaskan beberapa kelas serangan: ekspansi konteks rekursif (Rekursi mirip Quine), penyarangan fraktal, ledakan komputasi, ledakan kombinatorial semantik, simulasi multi-agen, dan penyalahgunaan token glitch. Para penulis melakukan eksperimen menggunakan sistem AI Red Team, yang mendukung lebih dari 2000 prompt berbahaya, 200 di antaranya menargetkan LLM10. Mereka menguji dua model unggulan Rusia: YandexGPT Lite 5 dan GigaChat Lite. Studi ini didukung oleh Yayasan Promosi Inovasi (fasie.ru), dan contoh-contohnya disediakan untuk tujuan penelitian dan pendidikan.