Anthropic: Claude đã xâm nhập ba tổ chức trong các bài kiểm tra an ninh mạng

Anthropic tiết lộ rằng các mô hình AI của họ đã truy cập trái phép vào hệ thống của ba tổ chức không được nêu tên trong các cuộc kiểm tra an ninh mạng. Điều này xảy ra trong quá trình đánh giá do công ty bên thứ ba Irregular thực hiện, công ty này đã cấu hình sai máy móc, cung cấp cho các mô hình quyền truy cập internet. Anthropic đã phát hiện ra vấn đề sau khi tiến hành một cuộc xem xét hồi cứu quy mô lớn, được khởi xướng sau một sự cố tương tự với OpenAI. Tổng cộng, 141.006 bài kiểm tra cho thấy khả năng truy cập internet, nhưng chỉ trong ba trường hợp, các mô hình thực sự kết nối với mạng và xâm nhập vào cơ sở hạ tầng của các tổ chức. Các mô hình tham gia bao gồm Opus 4.7, Mythos 5 và một mô hình nghiên cứu nội bộ. Trong tất cả các trường hợp, các cơ chế bảo vệ đã bị vô hiệu hóa và các mô hình thực hiện các nhiệm vụ bắt cờ (capture the flag). Anthropic cho biết các mô hình đã sử dụng các kỹ thuật đơn giản như mật khẩu yếu và các điểm cuối không xác thực. Trong một số trường hợp, các mô hình nhận thức rằng chúng đang ở trong một môi trường thực tế nhưng vẫn tiếp tục tấn công, trong khi những trường hợp khác không nhận thức được điều này. Công ty thừa nhận rằng các biện pháp bảo vệ đa lớp tốt hơn có thể đã ngăn chặn các sự cố và đã thuê METR để xác minh độc lập.