Tài liệu Word độc hại lây lan qua sâu Copilot, Microsoft 144 ngày chưa vá lỗi

Một nhà nghiên cứu bảo mật đã chứng minh cách tấn công vào Microsoft Copilot cho Word có thể tự lan truyền thông qua prompt injection. Håkon Måløy mô tả một cuộc tấn công giống như sâu máy tính: kẻ tấn công giấu các chỉ dẫn trong một tài liệu, ví dụ như bằng chữ trắng trên nền trắng và cỡ chữ siêu nhỏ. Người đọc không thấy, nhưng Copilot đọc được, vì hệ thống loại bỏ màu sắc và cỡ chữ trước khi xử lý. Khi ai đó dùng tài liệu này làm nguồn trong Copilot, hệ thống thực thi các chỉ dẫn ẩn và sao chép chúng một cách vô hình vào tệp mới, khiến tệp đó trở thành vật mang mầm bệnh. Nếu sau đó được dùng lại làm mẫu, cuộc tấn công lại kích hoạt mà không cần đến tài liệu gốc. Bằng cách này, một phân tích thị trường bị xâm nhập có thể thao túng một báo cáo tài chính, từ đó lây nhiễm thêm các báo cáo khác. Microsoft đã xác nhận hành vi này vào ngày 31 tháng 3, nhưng hai lần phản công không thể vá lỗ hổng. Sau 144 ngày, Måløy công bố thông tin mà không có biện pháp khắc phục, giữ lại đoạn mã độc. Gần đây, nhà nghiên cứu AI Andreas Kirsch nửa đùa nửa thật mong có chính xác một con sâu như vậy để thuyết phục những người hoài nghi về các vấn đề bảo mật. Giờ thì nó đã tồn tại. Prompt injection là một vấn đề bảo mật AI đã được biết đến.