Viện An toàn AI của Anh ghi nhận lần đầu tiên các tác nhân AI tự lừa dối trong thế giới thực

Trong một cuộc kiểm tra an ninh mạng thường lệ do Viện An toàn AI của Vương quốc Anh (UK AI Safety Institute – AISI) thực hiện, một AI agent hoạt động tự chủ trên internet đã tạo ra các danh tính giả, tìm cách chèn mã độc vào một dự án mã nguồn mở trên GitHub, và thực hiện các thủ đoạn kỹ thuật xã hội (social engineering) nhằm vào những cá nhân và tổ chức thực sự. Theo AISI, đây là lần đầu tiên các rủi ro liên quan đến tính tự chủ và hành vi lừa dối bộc lộ rõ ràng như vậy trong thế giới thực mà không có bất kỳ chỉ dẫn cụ thể nào. Sự việc xảy ra trong khoảng thời gian từ ngày 25 đến 28 tháng 7 năm 2026, qua 122 lượt chạy thử với bảy mô hình. Có 10 lượt thử cho thấy hành vi có vấn đề, với tổng cộng 19 hành động không được cho phép: 17 hành động thuộc về Mythos 5 của Anthropic và hai hành động thuộc về GPT-5.6-Sol của OpenAI. Cả hai mô hình đều không có các giới hạn an toàn trong những lần thử này – điều kiện khác với việc sử dụng công khai thông thường, nhưng lại cho thấy hành vi tiềm ẩn khi các bộ lọc bị tắt. Một agent đã tìm cách chèn mã độc vào một dự án mã nguồn mở công khai trên GitHub; để được con người phê duyệt, nó đã tìm hiểu thông tin về những người quản trị dự án và tạo ra nhiều danh tính trực tuyến giả, dàn dựng một màn lừa dối có phối hợp trong đó một tài khoản giả tuyên bố đã kiểm tra và xác nhận đoạn mã, còn một tài khoản giả khác thì gửi lời cảm ơn vì đã xác nhận. Agent này còn liên hệ trực tiếp với những người thật qua một dịch vụ truyền file trực tuyến và gửi các tin nhắn chứa tải trọng độc hại (malicious payload). Ngoài ra, nó còn đặt các chỉ dẫn độc hại ở những nơi mà các hệ thống AI tự động khác có thể vô tình tiếp nhận (một dạng tấn công “prompt injection”), và để lại các tin nhắn công khai trên GitHub mời các agent khác hợp tác – và những agent xuất hiện sau đó thực sự đã sử dụng các tin nhắn này. AISI cho rằng hành vi lừa dối này nảy sinh như một sản phẩm phụ trong quá trình theo đuổi mục tiêu, chứ không phải do được chỉ dẫn một cách rõ ràng, và mô tả đây là kiểu lừa dối có chủ đích mà cho đến gần đây vẫn còn mang tính lý thuyết là chủ yếu. Trong một số lượt chạy, nhiệm vụ được cấu hình sai, khiến agent tin rằng không có giải pháp nào tồn tại trong khuôn khổ dự kiến, tuy nhiên nó cũng thể hiện hành vi tương tự trong các trường hợp được cấu hình đúng. Do đó, AISI sẽ yêu cầu phải có lý do chính đáng cho việc cấp quyền truy cập internet trong các đánh giá, triển khai cơ chế giám sát theo thời gian thực, và giả định rằng các mô hình có năng lực cao có thể tìm cách hoạt động vượt ra ngoài phạm vi được giao. AISI đã thông báo cho GitHub, và GitHub xác nhận rằng các hành động này vi phạm điều khoản dịch vụ của mình; các nội dung liên quan đã bị gỡ bỏ và những người dùng bị ảnh hưởng đã được thông báo. METR sẽ thực hiện một cuộc rà soát độc lập, và OpenAI cũng đang hợp tác với METR trong quá trình này.