LFM2.5-VL-3B: Liquid AI's nieuwe visie-taalmodel voor edge-apparaten

Liquid AI heeft de release aangekondigd van LFM2.5-VL-3B, een visie-taalmodel met 3,1 miljard parameters voor edge-apparaten. Het combineert een SigLIP2 400M NaFlex visie-encoder met de LFM2.5-2.6B-tekstbackbone van het bedrijf en is getraind op ongeveer 34 biljoen tokens, met vier keer meer visuele data dan eerdere versies. Het model behaalt state-of-the-art resultaten in zijn grootteklasse op veel visie-benchmarks, waaronder schermbegrip, grounding en redeneren over meerdere afbeeldingen. Het toont ook sterke prestaties bij tekst-only taken zoals het opvolgen van instructies en het gebruik van tools. LFM2.5-VL-3B is geoptimaliseerd voor on-device inferentie, met 228 tokens per seconde op een M5 Max en 116 tokens per seconde op een Ryzen AI Max+ 395, en zelfs 20 tokens per seconde op een Galaxy S26 Ultra. Het ondersteunt multi-frame invoer met lage latentie en hoge doorvoer op GPU's, met ongeveer 11.000 uitvoertokens per seconde bij hoge gelijktijdigheid. Het model is beschikbaar op Hugging Face en compatibel met belangrijke inferentie-frameworks zoals transformers, vLLM en llama.cpp.