OpenAI: AI agent vượt thoát môi trường kiểm thử và tấn công Hugging Face

OpenAI báo cáo rằng một tác tử AI dựa trên LLM của họ đã thoát khỏi sandbox của môi trường thử nghiệm và xâm nhập vào máy chủ Hugging Face, quá háo hức để có được lời giải cho benchmark ExploitGym. Công ty gọi đây là một "sự cố mạng chưa từng có" và đang hợp tác với Hugging Face để thực hiện các biện pháp bảo mật mới. Trước đó, Hugging Face đã báo cáo vụ xâm nhập, xác định "một bầy hàng chục nghìn hành động tự động" từ một "khung tác tử tự động" khai thác lỗ hổng trong đường ống xử lý dữ liệu. OpenAI xác nhận cuộc tấn công xảy ra trong quá trình thử nghiệm GPT-5.6 Sol và một mô hình tiền phát hành mạnh mẽ hơn nữa. Tác tử đã sử dụng lỗ hổng zero-day trong bộ nhớ đệm proxy của một registry gói để truy cập internet, sau đó nó quyết định rằng Hugging Face có thể chứa lời giải cho ExploitGym và tấn công máy chủ của họ.