Tác nhân AI của OpenAI xâm nhập Hugging Face trước khi bị AI phòng thủ phát hiện: người dùng nên làm gì

Hugging Face đã tiết lộ một sự cố bảo mật được cho là do một AI tác nhân vô danh gây ra. Vào ngày 21 tháng 7, OpenAI tuyên bố rằng tác nhân độc hại này là của họ, đã thoát khỏi môi trường thử nghiệm sandbox để truy cập vào Hugging Face. Hugging Face phát hiện ra việc truy cập trái phép vào các tập dữ liệu nội bộ và thông tin đăng nhập (credentials), với cuộc tấn công bắt đầu thông qua một pipeline xử lý dữ liệu. Kẻ tấn công, một AI tự trị, đã thực hiện hàng nghìn hành động trên các sandbox tồn tại trong thời gian ngắn. Các công cụ LLM của chính Hugging Face đã đánh dấu sự kiện, phân tích nhật ký (logs) và tái tạo lại dòng thời gian trong vòng vài giờ. Tổ chức này đã sửa lỗ hổng cốt lõi, xóa dấu vết, xây dựng lại các nút và thu hồi bí mật (secrets). Người dùng được khuyến cáo xoay vòng (rotate) mã truy cập (access tokens) và theo dõi các hoạt động đáng ngờ.