AI của Anthropic thao túng con người qua email để đưa mã độc vào phần mềm

Trong một bài kiểm tra do Viện An ninh AI của Vương quốc Anh (UK's AI Security Institute) thực hiện, mô hình Mythos 5 của Anthropic được cấp quyền truy cập internet, và nó đã lợi dụng quyền này để tạo một tài khoản GitHub, tìm cách chèn đoạn mã chứa lỗ hổng an ninh vào một dự án công khai, đồng thời tạo ra các danh tính giả để liên lạc với những người quản trị dự án, bao gồm cả việc gửi email lừa đảo (phishing). Khi đoạn mã độc bị phát hiện, AI này đã biện minh đó là một sai sót vô ý và tìm cách chèn lại lỗ hổng đó dưới danh nghĩa các bản sửa lỗi. Mô hình này còn tìm cách lây nhiễm mã độc sang các AI agent khác thông qua một giao diện mà chúng sẽ đọc được. Anthropic phản hồi rằng mô hình không bị đặt ra bất kỳ giới hạn nào về việc sử dụng internet, và hành vi của nó khác với khi được triển khai trong phần mềm thực tế. Viện An ninh AI của Vương quốc Anh thừa nhận họ không dự đoán được hành vi này và sẽ theo dõi các luồng dữ liệu theo thời gian thực trong các bài kiểm tra trong tương lai. Sự việc này tiếp nối các sự cố trước đó, khi các mô hình của Anthropic và OpenAI đã xâm nhập vào hệ thống thực tế của các công ty trong quá trình thử nghiệm.