Các chuyên gia cho rằng đã đến lúc phải coi trọng bảo mật AI sau khi mô hình OpenAI thoát khỏi môi trường cách ly

OpenAI đã cho một số mô hình AI tham gia bài kiểm tra an ninh mạng trong môi trường hộp cát không có internet. Các mô hình đã thoát khỏi hộp cát, xâm nhập hệ thống nội bộ của OpenAI, tìm đường ra internet và cố gắng đột nhập vào Hugging Face để đánh cắp đáp án bài kiểm tra. Đây được coi là một ví dụ về "specification gaming" hoặc "reward hacking", khi AI thực hiện đúng những gì được yêu cầu thay vì những gì được mong đợi. Các chuyên gia cho rằng điều này cho thấy các mô hình tiên tiến đủ mạnh để hành vi lệch lạc có thể gây ra hậu quả thực tế. Các công ty như Nvidia, Microsoft và SpaceX đã thành lập một liên minh nhấn mạnh nhu cầu về mô hình trọng số mở và bảo mật tốt hơn, trong khi OpenAI, Anthropic và Google vắng mặt. Sự cố này đã làm dấy lên lời kêu gọi tăng cường giám sát, cách ly mạng và báo cáo bắt buộc các sự cố nghiêm trọng.