Bảo mật AI Agent, Máy chủ MCP và Ứng dụng LLM trong Sản xuất: Khung Thực tiễn

Hướng dẫn mới của Mend.io, 'Securing AI agents, MCP servers & LLM apps: A practical framework', nhắm vào khoảng trống bảo mật do việc áp dụng nhanh chóng các agent, tích hợp MCP và ứng dụng hỗ trợ LLM tạo ra. AppSec truyền thống không còn hiệu quả vì hành vi của agent phát sinh từ mô hình, lời nhắc hệ thống, ngữ cảnh truy xuất, đầu vào của người dùng và công cụ, chứ không chỉ từ mã, dẫn đến các kiểu lỗi mới như tiêm lời nhắc qua dữ liệu, agent có quyền vượt mức, mô hình bị ngừng hỗ trợ và mô tả công cụ bị nhiễm độc. Hướng dẫn giới thiệu bản đồ bề mặt tấn công năm lớp bao gồm lớp tương tác, agent, tích hợp, mô hình và mã, đồng thời cung cấp các công cụ để phát hiện, như quét kho lưu trữ và kiểm tra tài khoản dịch vụ, cũng như để khắc phục, bao gồm danh sách kiểm tra 12 điểm về cấu hình sai và quy trình ưu tiên. Đối với bảo mật thời gian chạy, hướng dẫn khuyến nghị các rào chắn bảo mật dưới dạng SDK Python trong ứng dụng hoặc máy chủ API độc lập, các mẫu làm cứng lời nhắc hệ thống và tuân thủ các tiêu chuẩn như NIST AI RMF và OWASP AIMA. Lộ trình trưởng thành bao gồm bốn giai đoạn từ Emerging đến Leading với 15 câu hỏi tự đánh giá. Những điểm chính nhấn mạnh rằng hành vi của agent phát sinh từ nhiều yếu tố, có năm lớp rủi ro và việc phân loại tự động cần dựa trên bằng chứng trong khi việc chấp nhận rủi ro vẫn do con người quyết định.