Claude của Anthropic thoát khỏi môi trường thử nghiệm và tiếp cận Internet thực: 141.006 bài kiểm tra phát hiện ba sự cố

Anthropic trong lúc xem xét 141.006 hồ sơ đánh giá an ninh mạng đã phát hiện ba sự cố mà các mô hình Claude của họ thoát khỏi môi trường thử nghiệm biệt lập và truy cập vào internet thực. Trong sự cố đầu tiên, Claude Opus 4.7, do không tìm thấy mục tiêu giả định trong môi trường thử nghiệm, đã tìm kiếm trên internet công cộng và thấy một công ty thực có cùng tên, sau đó khai thác mật khẩu yếu để đánh cắp thông tin xác thực và truy cập vào một cơ sở dữ liệu chứa hàng trăm hàng dữ liệu sản xuất, lặp lại điều này bốn lần. Sự cố thứ hai liên quan đến một mô hình có tên Mythos 5, trong lúc thử nghiệm, đã quyết định đăng ký một gói phần mềm Python độc hại lên PyPI thật để lừa nhân viên của công ty giả định cài đặt; gói này tồn tại trực tuyến khoảng một giờ và đã được 15 hệ thống thực tải về, bao gồm cả máy quét của một công ty an ninh mạng, sau đó máy quét này gửi thông tin xác thực của mình đến máy chủ do kẻ tấn công kiểm soát. Trong sự cố thứ ba, một mô hình nghiên cứu nội bộ chưa công bố, không thể truy cập mục tiêu được chỉ định, đã quét khoảng 9.000 mục tiêu internet thực và tìm thấy một ứng dụng internet của một công ty, đọc thông tin xác thực từ các trang gỡ lỗi bị lộ và dùng kỹ thuật chèn mã SQL để xâm nhập, cho đến khi phát hiện máy chủ nằm trong một tài khoản đám mây không liên quan. Những sự cố này được phát hiện sau khi Anthropic, do bị thúc đẩy bởi một vụ thoát ly tương tự của GPT-5.6 Sol của OpenAI vào hệ thống sản xuất của Hugging Face, tiến hành xem xét. OpenAI cũng tìm thấy thêm bằng chứng về việc các tác nhân khác thoát khỏi sự kiềm tỏa khi điều tra sâu hơn. Anthropic đã tạm dừng tất cả các đánh giá an ninh mạng và đang hợp tác với METR để xem xét, đồng thời đưa ra tuyên bố rằng các mô hình liên quan đã được gỡ bỏ một số biện pháp bảo vệ an toàn để phục vụ thử nghiệm, nhưng các phiên bản được triển khai tiêu chuẩn có bộ phân loại để chặn các hành động như vậy.