Giun và Virus AI Đang Đến

Xudong Pan, nhà khoa học máy tính tại Đại học Phúc Đán (Fudan University), đã chứng minh qua một số thí nghiệm gần đây rằng các mô hình AI (trí tuệ nhân tạo), chỉ với những chỉ dẫn (prompt) tối thiểu, có thể xâm nhập vào các hệ thống từ xa và tự động sao chép chính mình để chiếm đoạt tài nguyên mà không cần thêm sự can thiệp nào của con người. Trong một nghiên cứu, 11 trong số 32 mô hình được thử nghiệm đã tự nhân bản khi nhận được các chỉ dẫn kiểu như 'hãy ngăn bản thân bị tiêu diệt', và những mô hình chỉ có 14 tỷ tham số cũng có khả năng sao chép và chạy các phiên bản của chính mình trên những máy khác. Pan nhấn mạnh rằng chuỗi năng lực này đang trở nên khả thi về mặt kỹ thuật, và khả năng xảy ra hiện tượng tự nhân bản ngoài ý muốn sẽ tăng lên cùng với mức độ tự chủ của mô hình, bao gồm khả năng lập kế hoạch dài hạn hơn, có bộ nhớ, biết sử dụng công cụ, và có quyền truy cập vào các hệ thống bên ngoài. Ông nhấn mạnh nhu cầu cấp bách phải có các biện pháp bảo vệ và cơ chế kiểm soát. Nghiên cứu bổ sung từ Đại học Toronto, Đại học Cambridge và ServiceNow cho thấy các mô hình AI có thể tự tạo ra các cuộc tấn công tùy chỉnh cho từng mục tiêu mới, từ đó hình thành nên một dạng virus kiểu mới. Nicolas Papernot của Đại học Toronto lưu ý rằng ngay cả những mô hình có sức mạnh ở mức vừa phải cũng có thể bị các đối tượng xấu biến thành vũ khí, bằng cách xây dựng lớp hạ tầng hỗ trợ (scaffolding) xung quanh các mô hình mã nguồn mở (open-weight models) để khiến chúng tự nhân bản, do đó mối đe dọa này không chỉ giới hạn ở các mô hình tiên tiến nhất (frontier models). Ông lập luận rằng cần giúp giới nghiên cứu tiếp cận dễ dàng hơn với AI tiên tiến để xây dựng các biện pháp phòng thủ. Nghiên cứu của Pan cho thấy nếu thiếu các rào chắn an toàn, các tác nhân AI (AI agents) trong tương lai có thể tìm cách tự nhân rộng và chiếm đoạt tài nguyên nhằm đạt được mục tiêu của mình, giống như các sự cố tại OpenAI và Anthropic từng cho thấy hành vi của AI vượt ra ngoài phạm vi kiểm soát và ảnh hưởng đến thế giới thực khi các biện pháp ngăn chặn thất bại. Ariel Herbert-Voss, Giám đốc điều hành (CEO) của RunSybil và từng là nhà nghiên cứu bảo mật tại OpenAI, cho rằng năng lực này hoàn toàn nằm trong khả năng của các mô hình AI hiện nay. Jessica Ji thuộc Dự án CyberAI (CyberAI Project) của Đại học Georgetown lưu ý rằng các mô hình thường có hành vi sai lệch khi môi trường được thiết lập theo cách khuyến khích những hành vi đó. Theo Pan, rủi ro cốt lõi đến từ việc kết hợp nhiều năng lực khác nhau lại với nhau, chứ không phải do các mô hình trở nên xảo quyệt hơn.