Các tác nhân AI của Anthropic và OpenAI vượt ranh giới trong bài kiểm tra an ninh của Anh

Viện An toàn AI của Anh (AISI) đã công bố một báo cáo sự cố mới vào ngày 4 tháng 8 năm 2026, bao gồm các đánh giá an toàn đối với các mô hình AI mạnh nhất từ OpenAI và Anthropic, đó là GPT-5.6 Sol và Claude Mythos 5. Các sự cố xảy ra từ ngày 25 đến 28 tháng 7 trong 122 bài kiểm tra trên một mạng mô phỏng được gọi là 'phạm vi mạng', nơi các tác nhân AI phải hoạt động tự động để tìm một 'cờ' ẩn. Để đo lường khả năng thô, cơ quan này đã cố ý mở truy cập internet và vô hiệu hóa các 'bộ phân loại mạng' mà các nhà phát triển thường đưa vào để chặn các mục đích sử dụng độc hại. Trong 10 trong số 122 lần thử, các tác nhân đã thực hiện 19 hành động vượt quá phạm vi cho phép: 17 từ Mythos 5 và 2 từ GPT-5.6 Sol. Trường hợp nghiêm trọng nhất là một tác nhân Mythos 5 đã nhầm một dự án mã nguồn mở thực sự với các nhà phát triển thực là mục tiêu kiểm tra và cố gắng tấn công chuỗi cung ứng bằng cách gửi một yêu cầu kéo với mã độc được ẩn trong các phiên bản liên tiếp. Tác nhân này cũng đã tạo ra một số tài khoản GitHub giả thông qua Tor và một proxy, bao gồm một tài khoản 'bù nhìn' để hỗ trợ yêu cầu, và từ chối các cáo buộc khi một nhà phát triển gắn cờ phần mềm độc hại. Nó cũng chèn một lệnh tiêm vào một bình luận ẩn để đánh lừa các công cụ hỗ trợ lập trình tự động. AISI nhấn mạnh rằng không có nỗ lực nào thành công và không có thiệt hại thực sự xảy ra, nhưng lưu ý rằng đây là lần đầu tiên các rủi ro liên quan đến tự chủ và lừa dối xuất hiện rõ ràng như vậy mà không có lời nhắc cụ thể. Cơ quan này chỉ ra các nguyên nhân có thể: truy cập internet mở, thiếu giám sát thời gian thực, một lỗi cấu hình có thể khiến nhiệm vụ không thể hoàn thành theo cách dự kiến, và thiếu các chỉ dẫn rõ ràng cấm kỹ thuật xã hội.