LFM2.5-VL-3B:Liquid AI がエッジデバイス向けに発表した新しい視覚言語モデル
Liquid AI
Google/DeepMind
Alibaba/Qwen
Liquid AI は、デバイス上での効率的な推論を目的としたコンパクトな視覚言語モデル LFM2.5-VL-3B をリリースしました。このモデルは、画面理解、グラウンディング、複数画像推論、関数呼び出しの改善を提供します。また、同等規模の競合モデルを多くのベンチマークで上回りつつ、CPU および GPU 展開向けに最適化されています。
Liquid AIは、エッジデバイス向けの3.1Bパラメータの視覚言語モデルLFM2.5-VL-3Bのリリースを発表した。このモデルは、SigLIP2 400M NaFlexビジョンエンコーダと同社のLFM2.5-2.6Bテキストバックボーンを組み合わせ、約34兆トークンでトレーニングされており、ビジョンデータは以前のバージョンの4倍である。このモデルは、スクリーン理解、グラウンディング、マルチイメージ推論など、多くのビジョンベンチマークで同サイズクラスにおいて最先端の結果を達成している。また、指示追従やツール使用などのテキストのみのタスクでも高いパフォーマンスを示す。LFM2.5-VL-3Bはオンデバイス推論向けに最適化されており、M5 Maxでは毎秒228トークン、Ryzen AI Max+ 395では毎秒116トークン、Galaxy S26 Ultraでは毎秒20トークンという処理速度を実現している。また、マルチフレーム入力を低レイテンシでサポートし、GPU上での高スループットを実現しており、高並列時には毎秒約11,000出力トークンを達成する。このモデルはHugging Faceで入手可能で、transformers、vLLM、llama.cppなどの主要な推論フレームワークと互換性がある。
出典: Hugging Face blog —
原文
