Pas de chance pour les tricheurs : Claude se dote d'un filigrane invisible

Anthropic ajoute un filigrane invisible aux textes produits par ses modèles Claude afin de rendre plus difficile la présentation de contenus générés par l'IA comme étant les siens. Le filigrane ne modifiera ni le sens ni la lisibilité du texte, mais restera comme marqueur invisible lors du copier-coller. Cette mesure vise également à prévenir le vol ou la copie d'œuvres et s'aligne sur une réglementation de l'Union européenne exigeant une plus grande transparence dans l'utilisation de l'IA. Les modèles Claude publiés à partir du 2 août prendront en charge le marquage dès le départ, et Anthropic travaille à l'intégrer également dans les modèles plus anciens. Le marquage s'applique mondialement à tout contenu généré par Claude. Cependant, Anthropic reconnaît que des modifications importantes, des paraphrases, des traductions ou le mélange de contenus IA avec d'autres textes peuvent rendre le filigrane indétectable. La nouvelle met également en lumière l'utilisation répandue des outils d'IA dans l'éducation et l'édition, citant une enquête du BoD où 52 % des auteurs utilisent l'IA, et une enquête de Darmstadt où 92 % des étudiants utilisent des outils d'IA. Une étude du Center for Universal Education met en garde contre le fait que l'IA peut saper les processus éducatifs, et 65 % des étudiants interrogés craignent que l'IA ne puisse affaiblir leurs capacités cognitives. Certaines institutions, comme les écoles danoises et la faculté de droit de l'Université de Chicago, mettent en place des mesures supplémentaires telles que des défenses orales et des interdictions d'ordinateurs portables pour promouvoir la pensée indépendante.