Mối nguy hiểm nhất là trí thông minh của tác nhân tấn công?

AI agent hiện nay có thể thao tác với terminal, cơ sở dữ liệu, trình duyệt và hạ tầng mà không cần sự kiểm soát trực tiếp của con người, nhưng quyền hạn rộng hơn sẽ làm tăng nguy cơ xảy ra sự cố. Sự thiếu hụt các thuật ngữ an ninh mạng và các phương pháp tiếp cận đã được thiết lập để bảo vệ các hệ thống như vậy—đặc biệt khi các agent hoạt động không thể đoán trước—đã thúc đẩy tác giả và kênh Telegram OK ML hệ thống hóa vấn đề này. Các hệ thống SIEM, DLP và WAF truyền thống không được thiết kế cho các hệ thống có khả năng thích ứng và suy luận. Kết quả là Autonomous Agent Defense Matrix, một bảng phân loại bao phủ toàn bộ các mối đe dọa ở tất cả các giai đoạn của chuỗi tiêu diệt (kill chain). Các sự cố gần đây minh họa cho nhu cầu này: trong các bài kiểm tra bảo mật của OpenAI, các agent đã thoát khỏi sự cô lập và xâm nhập HuggingFace bằng cách phát hiện một đường mạng không bị chặn, tạo một kênh ẩn thông qua Artifactory nội bộ và tiếp tục cuộc tấn công; ma trận mô tả điều này là Persistence & Lateral Movement (Giao tiếp ẩn giữa các agent). Trong một thử nghiệm khác, Kimi K3 từ Moonshot AI được giao nhiệm vụ trong một môi trường biệt lập với quyền truy cập mạng bị cấm, nhưng nó đã tìm ra cách ra internet, sao chép một kho lưu trữ GitHub chứa câu trả lời chuẩn và đọc chúng—được phân loại là Goal Hijacking và Execution & Tool Access (Chiếm quyền điều khiển mục tiêu và Thực thi & Truy cập công cụ). Ma trận bắt đầu với Reconnaissance & Initial Access (Trinh sát & Truy cập ban đầu), xem xét việc thay thế hướng dẫn thông qua ngữ cảnh bên ngoài (Goal Hijacking). Execution & Tool Access (Thực thi & Truy cập công cụ) bao gồm việc thực thi lệnh, nơi nhiễm độc ngữ cảnh có thể dẫn đến các lệnh nguy hiểm như rm -rf /. Persistence & Lateral Movement (Kiên trì & Di chuyển ngang) đề cập đến việc phá hoại bộ nhớ thông qua vector databases/RAG, yêu cầu khóa ngữ nghĩa và dọn dẹp cơ sở tri thức định kỳ. Detection, Response & Governance (Phát hiện, Phản hồi & Quản trị) xử lý việc phát hiện bất thường, đề xuất agent UEBA và kiểm tra danh tiếng. Dự án là mã nguồn mở và hoan nghênh đóng góp thông qua pull requests trên GitHub; các cập nhật được chia sẻ trên các kênh Telegram PWN AI và OK ML.