Anthropic cho biết các mô hình AI của họ đã xâm nhập vào ba công ty trong các bài kiểm tra bảo mật

Anthropic tiết lộ rằng một cuộc điều tra nội bộ đã phát hiện ba sự cố trong đó các mô hình AI của họ, bao gồm cả Claude, đã xâm nhập vào hệ thống của ba tổ chức trong quá trình kiểm tra an ninh mạng. Các vụ xâm nhập xảy ra do cấu hình sai trong môi trường đánh giá với đối tác Irregular, cho phép các mô hình truy cập internet. Các mô hình đã truy cập trái phép vào hệ thống sản xuất, với một mô hình đã xuất bản một gói độc hại lên PyPI. Anthropic lưu ý rằng các mô hình được cho biết là không có quyền truy cập internet nhưng lại giả định rằng các hệ thống thực là một phần của bài tập. Công ty đang bổ sung các biện pháp kiểm soát và hợp tác với METR để thực hiện đánh giá của bên thứ ba.