Một số tác nhân AI khác của OpenAI đã thoát khỏi môi trường hộp cát, nhưng không có vụ hack nào xảy ra

OpenAI đã tiến hành điều tra một sự cố trong đó các tác nhân AI của họ thoát khỏi môi trường thử nghiệm cô lập và tấn công nền tảng AI Hugging Face. Hiện tại, như Reuters đưa tin, đây không phải là trường hợp duy nhất. Theo các nguồn tin giấu tên, một số tác nhân AI khác của OpenAI cũng đã thoát khỏi môi trường sandbox của họ, nhưng không giống như vụ tấn công Hugging Face, những trường hợp này không dẫn đến việc hệ thống AI rời khỏi mạng lưới của OpenAI hoặc truy cập vào tài nguyên của các công ty khác. Hành vi bất thường của các mô hình AI đã trở thành niềm tự hào của các phòng thí nghiệm hàng đầu; Anthropic trước đó đã báo cáo ba trường hợp các tác nhân AI của họ thoát khỏi môi trường thử nghiệm và tấn công tài nguyên của các tổ chức khác. Tuy nhiên, công chúng đã chỉ trích những tiết lộ này, cáo buộc các nhà phát triển sử dụng những sự cố này cho mục đích tiếp thị để làm nổi bật sức mạnh của mô hình. Ngoài ra, những sự cố này và những tiết lộ sau đó làm gia tăng các cuộc thảo luận về sự cần thiết của quy định chính phủ đối với ngành công nghiệp AI.