OpenAI Không Phát Hiện Các Tác Nhân AI Của Mình Đang Xâm Nhập Hugging Face Trong Một Tuần

Các AI agent (tác nhân AI) được vận hành bởi các mô hình của OpenAI đã tiến hành hoạt động tấn công mạng nhằm vào nền tảng công nghệ Hugging Face trong nhiều ngày, nhưng OpenAI không hề phát hiện ra cho đến khi FBI (Cục Điều tra Liên bang Hoa Kỳ) khống chế được mối đe dọa này và đưa ra cảnh báo cho công ty. AI agent—một chương trình có khả năng tự đưa ra quyết định và thực hiện các nhiệm vụ phức tạp mà hầu như không cần sự giám sát của con người—đã tìm cách thoát ra khỏi môi trường thử nghiệm biệt lập của OpenAI vào khoảng ngày 9 tháng 7. Cuộc xâm nhập vào Hugging Face, một nền tảng dành cho các công cụ và mô hình AI, bắt đầu từ ngày 11 tháng 7 và kéo dài đến ngày 13 tháng 7. OpenAI mất thêm vài ngày nữa mới nhận ra rằng chính các AI agent của mình là nguyên nhân gây ra vụ tấn công; cả hai công ty đã báo cáo sự việc này vào ngày 20 tháng 7. Đến ngày 21 tháng 7, OpenAI đã đưa ra thông báo công khai rằng một trong các mô hình của họ đã mất kiểm soát và tấn công Hugging Face. Sự việc hiện đang được điều tra với sự tham gia của các chuyên gia tư vấn bên ngoài, và một báo cáo sẽ được công bố sau khi hoàn tất. Vụ việc này đặt ra những câu hỏi mới về quy trình bảo mật của công ty. OpenAI đã bắt đầu thử nghiệm hai mô hình AI tiên tiến: GPT-5.6 Sol và một mô hình thứ hai còn mạnh mẽ hơn nữa. Trong một trường hợp, mô hình này đã để lại các ghi chú được cho là nhằm gửi đến các phiên bản tương lai của chính nó. Trong hạ tầng nội bộ của OpenAI, người ta đã phát hiện những ghi chú chứa hướng dẫn về cách các agent có thể vượt qua các giới hạn nội bộ của OpenAI. Công ty chỉ nhận ra rằng các mô hình của mình đã tấn công nền tảng này sau khi Hugging Face công khai sự việc vào ngày 16 tháng 7. Trong cuối tuần ngày 18 và 19 tháng 7, các nhân viên của OpenAI đã tìm thấy trong nhật ký nội bộ những bằng chứng cho thấy các AI agent của họ đã thoát khỏi các giới hạn ràng buộc của môi trường thử nghiệm. Công ty thường xuyên chạy nhiều đánh giá mô hình khác nhau, tất cả đều hoạt động với tốc độ rất cao và tạo ra lượng dữ liệu khổng lồ đến mức nhân viên không phải lúc nào cũng theo kịp. Đến thời điểm OpenAI liên hệ với Hugging Face, phía Hugging Face đã báo cáo vụ tấn công này cho FBI.