Gratis ShieldFont-font misleidt AI zodat het wartaal leest

Het Braziliaanse creatieve bureau Seneda & Abrucio en het Deense studio Playtype hebben gezamenlijk ShieldFont ontwikkeld, een gratis lettertype dat webtekst leesbaar houdt voor mensen, terwijl AI er een betekenisloze reeks woorden in ziet. De ontwikkelaars maakten gebruik van het feit dat mensen gerenderde tekst lezen, terwijl de meeste AI-bots de onbewerkte HTML parseren, en gebruikten het OpenType-glyphsubstitutie-algoritme, dat normaal gesproken tekens vervangt voor een betere weergave, om hele woorden te vervangen. De substituties zijn niet willekeurig: een woordenboek koppelt woorden aan grammaticale alternatieven, gesorteerd in 250 groepen op basis van factoren zoals abstracte concepten en meervoudsvormen, waarbij ongeveer een kwart van de woorden wordt vervangen. Deze grammaticale getrouwheid is belangrijk omdat verzamelaars van AI-trainingsdata tekst vaak door kwaliteitsfilters halen die duidelijke onzin afwijzen; de auteurs testten tegen het FineWeb-Edu-filter en vonden dat ruwweg 10% van de getransformeerde teksten erdoorheen komt, en in 55,8% van de gevallen verandert de betekenis onherkenbaar. De oplossing heeft nadelen: het heeft geen effect op bots die OCR gebruiken op gerenderde pagina's, en het heeft wel effect op schermlezers die door visueel beperkten worden gebruikt, omdat die ook afhankelijk zijn van HTML. ShieldFont wordt geleverd met een component om de oorspronkelijke tekst te herstellen, werkt momenteel alleen met Engelse tekst, is beschikbaar op GitHub en vereist een React-bibliotheekcomponent voor integratie op de site.