Hình mờ vô hình của Claude: Một dấu ấn đỏ cho văn bản AI

Theo Ars Technica, Anthropic đã thêm một hệ thống đánh dấu mới cho mô hình AI Claude của mình. Đánh dấu này là vô hình, có nghĩa là nó không thay đổi văn bản một cách trực quan, nhưng nó có thể được sử dụng để đánh dấu văn bản do AI tạo ra. Hệ thống được thiết kế để nhúng một mẫu ẩn mà sau này có thể được phát hiện để xác minh nguồn gốc của văn bản. Hiện tại, đánh dấu là không thể phát hiện đối với người dùng, nhưng nó đại diện cho một bước tiến đáng kể hướng tới việc xác minh nguồn gốc nội dung AI. Bài báo gợi ý rằng mặc dù đây là một sự phát triển đầy hứa hẹn, nhưng vẫn còn phải xem liệu nó sẽ mạnh mẽ đến mức nào trước các nỗ lực loại bỏ hoặc thay đổi đánh dấu.