Bypass Mã Hóa: Cách Các Mô Hình AI Dễ Dàng Tiết Lộ Dữ Liệu Nhạy Cảm Của Người Dùng

Các nhà nghiên cứu từ Đức đã công bố một bài báo có tựa đề 'Đánh cắp dấu vết suy luận từ các API LLM độc quyền', chứng minh cách các mô hình AI của Anthropic, OpenAI và Google có thể rò rỉ dữ liệu nhạy cảm của người dùng. Khi thực hiện các nhiệm vụ suy luận, các mô hình này tạo ra một chuỗi mã hóa gọi là 'nhật ký suy luận' được gửi trở lại máy chủ cùng với mỗi phản hồi mới để cung cấp ngữ cảnh. Các nhà nghiên cứu phát hiện ra rằng các nhật ký suy luận có thể được sao chép và sử dụng trong các mô hình khác của cùng công ty, bao gồm cả các phiên bản cũ hơn hoặc đã được sửa đổi. Nếu một mô hình đã được sửa đổi có các biện pháp an toàn bị vô hiệu hóa thông qua jailbreak, nó có thể giải mã mã hóa của các nhật ký. Sử dụng 6.708 kho lưu trữ công khai từ GitHub và Hugging Face, họ đã giải mã thành công 315.320 nhật ký suy luận, trong đó có 62 khóa API, 33 mật khẩu, 24 mã truy cập, 30 địa chỉ email cá nhân và tên/địa chỉ của những người duy trì dự án. Nhiều chi tiết trong số này chỉ có trong nhật ký suy luận, không xuất hiện ở bất kỳ nơi nào khác trong phiên trò chuyện. Chuyên gia bảo mật Voldemaras Kadys của Cybernews lưu ý rằng mã hóa không bị phá vỡ theo nghĩa truyền thống; thay vào đó, việc chia sẻ các dấu vết suy luận được mã hóa giữa các mô hình tương thích cho phép các mô hình yếu hơn trở thành chìa khóa chính để giải mã. Ông khuyên nên coi các nhật ký suy luận như dữ liệu nhạy cảm và không bao giờ chia sẻ chúng.