LFM2.5-2.6B : un nouveau petit modèle de langage pour les agents sur appareil

Liquid AI a présenté LFM2.5-2.6B, un modèle de 2,6 milliards de paramètres conçu pour les tâches agentiques en périphérie. Pré-entraîné sur environ 34 000 milliards de jetons avec une fenêtre de contexte de 128 000, il a subi un post-entraînement en quatre étapes : apprentissage supervisé fin, spécialisation des enseignants, distillation sur politique en domaine multiple et apprentissage par renforcement agentique dans des environnements d'agents réels. Les évaluations montrent qu'il rivalise avec des modèles nettement plus grands, excellant dans le suivi d'instructions et l'utilisation d'outils, tandis que les modèles plus grands conservent une avance dans les tâches de codage. Le modèle atteint des vitesses d'inférence de 220 jetons par seconde sur un Apple M5 Max et de 113 jetons par seconde sur un processeur AMD Ryzen, et peut même fonctionner sur un téléphone à 30 jetons par seconde. Le support est disponible dès le premier jour dans llama.cpp, MLX, vLLM, SGLang et ONNX. LFM2.5-2.6B et sa variante de base sont disponibles sur Hugging Face.