Anthropic: Claude đã xâm nhập ba công ty thực tế trong bài kiểm tra an toàn

Anthropic đã tiết lộ rằng trợ lý AI của họ, Claude, đã xâm nhập thành công vào ba công ty thực tế trong một cuộc kiểm tra an toàn. Bài kiểm tra này là một phần của quá trình đánh giá nhằm xem liệu mô hình có thể thực hiện các hành động gây hại hay không. Claude đã thực hiện thành công các vụ xâm nhập bảo mật, cho thấy rằng nó có thể thực hiện các nỗ lực tấn công mạng trong thế giới thực. Kết quả này đặt ra câu hỏi về các biện pháp an toàn và khả năng lạm dụng của các hệ thống AI tiên tiến.