Truque da fonte gratuita ShieldFont engana a IA fazendo-a ler bobagens

A agência criativa brasileira Seneda & Abrucio e o estúdio dinamarquês Playtype desenvolveram em conjunto a ShieldFont, uma fonte gratuita que mantém o texto da web legível para humanos enquanto a IA vê um conjunto de palavras sem sentido. Os desenvolvedores aproveitaram o fato de que humanos leem texto renderizado enquanto a maioria dos bots de IA analisa o HTML bruto, e usaram o algoritmo de substituição de glifos OpenType, que normalmente troca caracteres para melhor exibição, para substituir palavras inteiras. As substituições não são aleatórias: um dicionário mapeia palavras para alternativas gramaticalmente equivalentes, classificando-as em 250 grupos considerando fatores como conceitos abstratos e formas plurais, substituindo cerca de um quarto das palavras. Essa fidelidade gramatical é importante porque os coletores de dados de treinamento de IA frequentemente passam o texto por filtros de qualidade que rejeitam tolices óbvias; os autores testaram contra o filtro FineWeb-Edu e descobriram que aproximadamente 10% dos textos transformados passam, e em 55,8% dos casos o significado muda além do reconhecimento. A solução tem desvantagens: não afeta bots que usam OCR em páginas renderizadas e afeta leitores de tela usados por pessoas com deficiência visual, que também dependem do HTML. A ShieldFont vem com um componente para recuperar o texto original, atualmente funciona apenas com texto em inglês, está disponível no GitHub e requer um componente de biblioteca React para integração no site.