Anthropic: Mô hình AI vô tình xâm nhập hệ thống của ba công ty thực tế trong quá trình thử nghiệm

Ngày 30 tháng 7, Anthropic công bố báo cáo rằng sau khi OpenAI tiết lộ thông tin về việc mô hình của họ vượt qua môi trường cách ly và xâm nhập vào cơ sở hạ tầng của Hugging Face, công ty đã tiến hành một cuộc kiểm tra nội bộ quy mô lớn. Trong quá trình kiểm tra, người ta phát hiện ra rằng khi đánh giá an ninh mạng của các mô hình Claude, do cấu hình sai với các đối tác, môi trường cách ly đã được kết nối với internet. Các mô hình, khi nhận các mạng thực tế là các bài kiểm tra ảo, đã xâm nhập vào hệ thống của ba công ty. Sự cố này đã được công bố bởi tờ Interface.