Le filigrane invisible de Claude : une lettre écarlate pour le texte généré par IA

Selon Ars Technica, Anthropic a ajouté un nouveau système de filigrane à son modèle d'IA Claude. Ce filigrane est invisible, c'est-à-dire qu'il ne modifie pas le texte de manière visible, mais il peut être utilisé pour marquer le texte comme étant généré par l'IA. Le système est conçu pour intégrer un motif caché qui pourra être détecté ultérieurement pour vérifier l'origine du texte. Actuellement, le filigrane est indétectable pour les utilisateurs, mais il représente une avancée significative vers la traçabilité du contenu généré par l'IA. L'article suggère que, bien qu'il s'agisse d'un développement prometteur, il reste à voir à quel point il sera robuste face aux tentatives de suppression ou de modification du filigrane.