LFM2.5-2.6B：面向端侧代理的全新小型语言模型

Liquid AI 推出了 LFM2.5-2.6B，这是一个拥有 26 亿参数、专为边缘端智能体任务设计的模型。该模型在大约 34 万亿个令牌上进行了预训练，上下文窗口为 128K，并在四个阶段进行了后训练：监督微调、教师专业化、多领域策略蒸馏，以及在实际智能体框架内进行的智能体强化学习。基准测试显示，它能与明显更大的模型相抗衡，擅长指令遵循和工具使用，而更大的模型在编码任务上仍保持领先。该模型在 Apple M5 Max 上的推理速度达到每秒 220 个令牌，在 AMD Ryzen CPU 上达到每秒 113 个令牌，甚至可在手机上以每秒 30 个令牌的速度运行。发布首日即支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。LFM2.5-2.6B 及其基础版本已在 Hugging Face 上提供。