LFM2.5-2.6B：オンデバイス・エージェント向けの新しい小型言語モデル

Liquid AIは、エッジでのエージェントタスク向けに設計された26億パラメータのモデルであるLFM2.5-2.6Bを発表しました。約34兆トークンで事前学習され、コンテキストウィンドウは128Kです。事後学習は4段階で行われました：教師ありファインチューニング、教師スペシャライゼーション、マルチドメインのオンポリシー蒸留、そして実際のエージェントハーネス内でのエージェント強化学習です。ベンチマークによると、このモデルは特に大規模なモデルと競合し、指示追従とツール使用に優れていますが、大規模モデルはコーディングタスクで優位性を維持しています。このモデルは、Apple M5 Max上で毎秒220トークン、AMD Ryzen CPU上で毎秒113トークンの推論速度を達成し、スマートフォン上でも毎秒30トークンで動作します。llama.cpp、MLX、vLLM、SGLang、ONNXで初日からサポートされています。LFM2.5-2.6BとそのベースバリアントはHugging Faceで利用可能です。