Anthropic va filigraner le contenu traité par IA dans tous ses nouveaux modèles

Anthropic a annoncé qu'il ajoutera des filigranes lisibles par machine au contenu traité, et non seulement généré, par ses modèles, en les publiant avec tous les nouveaux modèles à l'échelle mondiale dès le premier jour. Cette mesure vise à se conformer à la loi européenne sur l'intelligence artificielle, qui impose le filigranage des contenus générés ou manipulés par l'IA, avec une date limite pour les nouveaux modèles après le 2 août et une période de grâce jusqu'en décembre 2026 pour les modèles déjà publiés. Les sorties textuelles auront des filigranes invisibles intégrés, tandis que les autres fichiers générés incluront des métadonnées de provenance signées numériquement là où cela est pris en charge. Fait intéressant, Anthropic applique des filigranes à tout le contenu traité, y compris les cas où l'IA n'exerce qu'une fonction d'assistance comme la correction grammaticale, ce que les orientations de l'UE n'exigent pas. Cela pourrait entraîner le marquage de contenus que la loi avait l'intention d'exclure, et l'ampleur réelle du filigranage sera floue jusqu'à ce qu'Anthropic publie un outil de détection, ce qu'il prévoit de faire pour offrir le support technique requis par la loi européenne. Pour le contenu non textuel, Anthropic utilisera l'approche des métadonnées C2PA, bien que les filigranes puissent ne pas fonctionner sur certaines plateformes ou fonctionnalités.