LFM2.5-Encoders: Inferencia Rápida en CPU para Contextos Largos

Liquid AI anunció el lanzamiento de LFM2.5-Encoders, dos modelos de codificador bidireccional de propósito general (230 millones y 350 millones de parámetros) inicializados a partir de los backbones del decodificador LFM2.5. Están preentrenados con un objetivo de lenguaje enmascarado (30% de enmascaramiento) en dos etapas: contexto corto (1024 tokens) en un gran corpus web y adaptación a contexto largo (8192 tokens) en una mezcla completa de datos. En los benchmarks, el modelo de 350 millones ocupa el cuarto lugar entre 14 modelos, superando a modelos más grandes de hasta 3,5 mil millones, mientras que el modelo de 230 millones supera a ModernBERT-base y a todos los modelos EuroBERT. Las pruebas de velocidad de inferencia muestran que LFM2.5-Encoder-230M es el más rápido en CPU en todas las longitudes de secuencia; con 8192 tokens procesa una pasada forward en aproximadamente 28 segundos frente a unos 90 segundos de ModernBERT-base (3,7 veces más rápido). En GPU, los codificadores lideran para entradas de más de aproximadamente 2000 tokens. Los modelos tienen pesos abiertos en Hugging Face y admiten fine-tuning para clasificación, tareas a nivel de token y recuperación. Las demostraciones incluyen enrutamiento de prompts en zero-shot, análisis de políticas, corrección ortográfica, detección de PII (información personal identificable) y generación de texto por difusión enmascarada.