Chuyên gia UserGate Factor cảnh báo kỹ năng AI Agent có thể gây ra mối đe dọa

Các chuyên gia từ trung tâm giám sát và ứng phó mối đe dọa mạng UserGate Factor cảnh báo về nguy cơ tiềm ẩn của các tác nhân AI. Nghiên cứu chỉ ra rằng hơn 26% kỹ năng của tác nhân AI có khả năng dễ bị tổn thương, với các rủi ro phổ biến nhất là rò rỉ dữ liệu và leo thang đặc quyền. Bốn nhóm rủi ro chính được xác định: phân phối phần mềm độc hại, truyền dữ liệu ra hệ thống bên ngoài, giành quyền hạn quá mức và thao túng hành vi của tác nhân AI. Một kịch bản ví dụ được đưa ra, trong đó một nhân viên cài đặt một kỹ năng có vẻ hữu ích nhưng chứa các hướng dẫn độc hại, dẫn đến việc thu thập và đánh cắp dữ liệu trái phép. Để giảm thiểu rủi ro, các chuyên gia khuyến nghị xác minh kỹ năng thông qua các công cụ như Agent Threat Rule, kiểm tra các báo cáo bảo mật trên các nền tảng như skills.sh, và chạy cả những kỹ năng đáng tin cậy với các hạn chế nghiêm ngặt như tài khoản riêng biệt, hạn chế truy cập hệ thống tệp và mạng, cùng xác nhận của người dùng cho các hoạt động nhạy cảm. Svetlana Gazizova, Chủ sở hữu Sản phẩm Bảo mật AI của UserGate, nhấn mạnh sự cần thiết của kiểm soát đầu cuối toàn bộ chuỗi hệ thống tác nhân, giám sát truy cập dữ liệu, gọi công cụ và ủy quyền hành động.