OWASP LLM10: Tiêu thụ không giới hạn — Kiểm thử các mô hình ngôn ngữ hiện đại trên các prompt tiêu tốn tài nguyên

Các mô hình ngôn ngữ lớn ngày càng được sử dụng trong các hệ thống doanh nghiệp, nhưng cùng với sự phổ biến của chúng, bối cảnh mối đe dọa cũng thay đổi: kẻ tấn công có thể tạo ra các yêu cầu buộc mô hình thực hiện các tác vụ tốn nhiều tài nguyên, tiêu tốn thời gian CPU, bộ nhớ và hàng nghìn token. Danh sách OWASP Top 10 cho các ứng dụng LLM bao gồm hạng mục LLM10: Tiêu thụ không giới hạn, vốn điều chỉnh ý tưởng Từ chối dịch vụ (DoS) cho trí tuệ nhân tạo tạo sinh. Khác với các cuộc tấn công cổ điển như Prompt Injection hay Rò rỉ dữ liệu, các cuộc tấn công này nhắm vào tài nguyên tính toán. Bài viết mô tả một số lớp tấn công: mở rộng ngữ cảnh đệ quy (giống Quine), lồng nhau fractal, bùng nổ tính toán, bùng nổ tổ hợp ngữ nghĩa, mô phỏng đa tác tử và lạm dụng token lỗi. Các tác giả đã tiến hành thử nghiệm bằng hệ thống AI Red Team, hỗ trợ hơn 2000 prompt độc hại, trong đó 200 prompt nhắm vào LLM10. Họ đã thử nghiệm hai mô hình chủ lực của Nga: YandexGPT Lite 5 và GigaChat Lite. Nghiên cứu được hỗ trợ bởi Quỹ Thúc đẩy Đổi mới (fasie.ru), và các ví dụ được cung cấp cho mục đích nghiên cứu và giáo dục.