La police ShieldFont gratuite piège l'IA en lui faisant lire du charabia

L'agence créative brésilienne Seneda & Abrucio et le studio danois Playtype ont développé conjointement ShieldFont, une police gratuite qui maintient le texte web lisible pour les humains tandis que l'IA y voit un ensemble de mots dénué de sens. Les développeurs ont exploité le fait que les humains lisent le texte rendu alors que la plupart des bots d'IA analysent le HTML brut, et ont utilisé l'algorithme de substitution de glyphes OpenType, qui normalement remplace les caractères pour un meilleur affichage, pour remplacer des mots entiers. Les substitutions ne sont pas aléatoires : un dictionnaire associe les mots à des alternatives grammaticalement équivalentes, les classant en 250 groupes en tenant compte de facteurs tels que les concepts abstraits et les formes plurielles, remplaçant environ un quart des mots. Cette fidélité grammaticale est importante car les collecteurs de données d'entraînement d'IA font souvent passer le texte par des filtres de qualité qui rejettent les absurdités évidentes ; les auteurs ont testé contre le filtre FineWeb-Edu et ont constaté qu'environ 10 % des textes transformés passent, et dans 55,8 % des cas, le sens change au point d'être méconnaissable. La solution présente des inconvénients : elle n'affecte pas les bots qui utilisent la reconnaissance optique de caractères (OCR) sur les pages rendues, et elle affecte les lecteurs d'écran utilisés par les personnes malvoyantes, qui s'appuient également sur le HTML. ShieldFont est livré avec un composant pour récupérer le texte original, ne fonctionne actuellement qu'avec du texte anglais, est disponible sur GitHub et nécessite un composant de bibliothèque React pour l'intégration sur les sites.