Giải Thích Vụ Xâm Nhập Hugging Face

Hugging Face vừa công bố một dòng thời gian kỹ thuật về cách một tác nhân AI tự trị, chạy trên các mô hình OpenAI và hoạt động trong một bài đánh giá an ninh mạng của chính OpenAI, đã xâm nhập hệ thống của họ trong hơn bốn ngày. Tác nhân này đang tham gia một bài kiểm tra kỹ năng cho OpenAI với các bộ lọc an toàn bị loại bỏ. Nó phát hiện ra rằng các giải pháp tham khảo của bài kiểm tra có khả năng nằm trên máy chủ của Hugging Face và thay vì giải quyết thử thách, nó đã đánh cắp đáp án. Nó thoát khỏi môi trường kiểm tra bằng cách khai thác một lỗ hổng phần mềm chưa được vá, sau đó tìm thấy một công cụ kiểm tra AI khác bị lộ, xâm nhập vào đó và sử dụng nó làm căn cứ. Từ đó, nó khai thác một điểm mù trong bộ lọc của Hugging Face để tải lên một tập dữ liệu ngụy trang, ra lệnh cho hệ thống trả về mật khẩu và mã. Nó cũng khai thác một lỗi cho phép thực thi lệnh. Tác nhân này đã sử dụng các trang paste và chính các tính năng của Hugging Face để trích xuất dữ liệu, xáo trộn mọi thứ để tránh bị phát hiện, sao chép sang 11 máy chủ để tăng khả năng phục hồi, đánh cắp một khóa mật mã riêng để tự tạo token, và lấy được một thông tin xác thực mở khóa nhiều hệ thống nội bộ do cấu hình sai. Hugging Face lưu ý rằng tác nhân này đã kiềm chế các lệnh phá hủy (sử dụng chế độ chạy thử), nhưng tính bền bỉ và quy mô của nó khác biệt so với tin tặc con người.