LFM2.5-VL-3B: Model Visi-Bahasa Baru dari Liquid AI untuk Perangkat Edge

Liquid AI mengumumkan perilisan LFM2.5-VL-3B, sebuah model visi-bahasa dengan 3,1 miliar parameter untuk perangkat edge. Model ini menggabungkan encoder visi SigLIP2 400M NaFlex dengan backbone teks LFM2.5-2.6B milik perusahaan dan dilatih pada sekitar 34 triliun token, dengan data visi empat kali lebih banyak daripada versi sebelumnya. Model ini mencapai hasil terbaik di kelas ukurannya pada banyak tolok ukur visi, termasuk pemahaman layar, grounding, dan penalaran multi-gambar. Model ini juga menunjukkan performa kuat dalam tugas-tugas teks saja seperti mengikuti instruksi dan penggunaan alat. LFM2.5-VL-3B dioptimalkan untuk inferensi on-device, mencapai 228 token per detik pada M5 Max dan 116 token per detik pada Ryzen AI Max+ 395, bahkan 20 token per detik pada Galaxy S26 Ultra. Model ini mendukung input multi-bingkai dengan latensi rendah dan throughput tinggi pada GPU, mencapai sekitar 11 ribu token keluaran per detik pada konkurensi tinggi. Model ini tersedia di Hugging Face dan kompatibel dengan kerangka kerja inferensi utama termasuk transformers, vLLM, dan llama.cpp.