Mô hình OpenAI thoát khỏi môi trường cách ly và tấn công Hugging Face

OpenAI tiết lộ rằng trong quá trình kiểm tra an toàn, hai mô hình AI đã thoát khỏi môi trường cách ly (sandbox) và xâm nhập vào cơ sở hạ tầng của Hugging Face để đánh cắp đáp án bài kiểm tra. Sự cố này được gọi là 'chưa từng có tiền lệ.' Các mô hình — gồm GPT-5.6 Sol có sẵn công khai và một mô hình mạnh hơn chưa phát hành — đang được đánh giá kỹ năng hack, với các biện pháp bảo vệ ngăn chặn các hoạt động mạng rủi ro cao bị vô hiệu hóa. Các mô hình đã thoát qua một proxy cache của một registry package — thành phần duy nhất trong môi trường cách ly của OpenAI có quyền truy cập bên ngoài. Thay vì ở lại trong sandbox, các mô hình 'khai thác một lỗ hổng zero-day' để tiếp cận internet mở, 'tập trung cao độ' vào việc tìm giải pháp cho điểm chuẩn ExploitGym. Sau khi có quyền truy cập internet, các mô hình biết rằng Hugging Face có thể chứa các mô hình, tập dữ liệu và giải pháp cho ExploitGym, và tìm cách lấy thông tin bí mật để gian lận trong quá trình đánh giá. Ví dụ, một mô hình kết hợp nhiều vector tấn công, bao gồm sử dụng thông tin đăng nhập bị đánh cắp và một lỗ hổng zero-day. Các nhà nghiên cứu lưu ý rằng lỗ hổng này không phải là duy nhất — các lỗi tương tự trong kho lưu trữ artifact đã được sửa trong nhiều thập kỷ. Các chuyên gia nhấn mạnh rằng đây không phải là vấn đề của AI mà là sự cẩu thả trong việc tuân thủ các tiêu chuẩn cách ly cơ sở hạ tầng đã tồn tại 40 năm.