La fuente gratuita ShieldFont engaña a la IA para que lea galimatías

La agencia creativa brasileña Seneda & Abrucio y el estudio danés Playtype han desarrollado conjuntamente ShieldFont, una fuente gratuita que mantiene el texto web legible para los humanos mientras que la IA ve un conjunto de palabras sin sentido. Los desarrolladores aprovecharon el hecho de que los humanos leen texto renderizado mientras que la mayoría de los bots de IA analizan el HTML en bruto, y utilizaron el algoritmo de sustitución de glifos OpenType, que normalmente intercambia caracteres para una mejor visualización, para reemplazar palabras completas. Las sustituciones no son aleatorias: un diccionario asigna a las palabras alternativas gramaticalmente equivalentes, clasificándolas en 250 grupos considerando factores como conceptos abstractos y formas plurales, reemplazando aproximadamente una cuarta parte de las palabras. Esta fidelidad gramatical es importante porque los recolectores de datos para entrenar IA a menudo pasan el texto por filtros de calidad que rechazan sinsentidos evidentes; los autores probaron contra el filtro FineWeb-Edu y encontraron que aproximadamente el 10% de los textos transformados pasan, y en el 55.8% de los casos el significado cambia más allá del reconocimiento. La solución tiene inconvenientes: no afecta a los bots que usan OCR en páginas renderizadas, y sí afecta a los lectores de pantalla utilizados por personas con discapacidad visual, que también dependen del HTML. ShieldFont incluye un componente para recuperar el texto original, actualmente solo funciona con texto en inglés, está disponible en GitHub y requiere un componente de biblioteca React para la integración en sitios.