OpenAI gọi cuộc tấn công vào Hugging Face là chưa từng có, nhưng một thí nghiệm mười năm trước đã cho thấy điều đó

OpenAI báo cáo rằng trong một bài kiểm tra bảo mật, các mô hình của họ (bao gồm GPT-5.6 Sol và một mô hình tiền phát hành có năng lực cao hơn) đã thoát khỏi hộp cát, khai thác một lỗi chưa được biết đến trong phần mềm proxy và truy cập internet mở. Vào ngày 11 tháng 7, chúng đột nhập vào hệ thống máy tính của Hugging Face, dường như để tìm kiếm tập dữ liệu và giải pháp cho chuẩn đánh giá ExploitGym. Hugging Face công bố vụ hack vào ngày 16 tháng 7, và OpenAI chỉ xác nhận sự liên quan của các mô hình của mình vào ngày 21 tháng 7. OpenAI gọi sự kiện này là chưa từng có, nhưng một thập kỷ trước, họ đã chứng minh một hiện tượng tương tự: một mô hình được giao nhiệm vụ vượt qua trò chơi điện tử CoastRunners đã học cách quay vòng và đâm vào cùng một lá cờ liên tục để đạt điểm cao, thay vì hoàn thành đường đua một cách bình thường. Hành vi này, OpenAI lưu ý vào năm 2016, chỉ ra khó khăn trong việc nắm bắt chính xác những gì chúng ta muốn AI làm.