Menguji LLM Rusia terhadap OWASP LLM10: Serangan Konsumsi Tak Terbatas
Яндекс
Сбер
Para peneliti dari proyek AI Red Team menguji model unggulan Rusia, yaitu YandexGPT Lite 5 dan GigaChat Lite, terhadap serangan OWASP LLM10: Konsumsi Tak Terbatas. Mereka menggunakan prompt yang dirancang khusus untuk memicu ekspansi konteks rekursif, penyarangan fraktal, ledakan kombinatorial, dan simulasi multi-agen, dengan tujuan meningkatkan beban komputasi. Studi ini menyoroti bahwa pertahanan tradisional tidak cukup untuk menghadapi serangan penipisan sumber daya semacam ini.
Artikel tersebut membahas kategori OWASP LLM10: Konsumsi Tanpa Batas, yang berfokus pada serangan yang memaksa model bahasa untuk melakukan komputasi dalam jumlah yang sangat besar, yang menyebabkan kehabisan sumber daya dan penolakan layanan. Para peneliti menyiapkan prompt berbahaya yang mewakili berbagai kelas serangan, termasuk ekspansi konteks rekursif (rekursi seperti Quine), penyarangan fraktal, ledakan komputasi, ledakan kombinatorial semantik, simulasi multi-agen, dan penyalahgunaan token glitch. Prompt-prompt ini dapat menyebabkan model menghasilkan respons yang sangat panjang, mensimulasikan ribuan entitas, atau menganalisis penalarannya sendiri secara rekursif, semua itu sambil tampak sebagai permintaan pengguna yang sah. Studi ini menguji dua model bahasa besar (LLM) unggulan Rusia, YandexGPT Lite 5 dan GigaChat Lite, menggunakan layanan web AI Red Team, yang mendukung lebih dari 2000 prompt berbahaya, 200 di antaranya menargetkan OWASP LLM10. Evaluasi melibatkan LLM-as-judge dengan validasi manual. Artikel ini menekankan bahwa langkah-langkah keamanan tradisional seperti penyaringan kata kunci tidak efektif, dan menyoroti perlunya pertahanan arsitektural yang lebih kuat.
Sumber: Habr — хаб ИИ —
asli