LFM2.5-VL-3B: Mô Hình Ngôn Ngữ Thị Giác Mới Của Liquid AI Cho Thiết Bị Biên

Liquid AI đã công bố phát hành LFM2.5-VL-3B, một mô hình ngôn ngữ-thị giác có 3,1 tỷ tham số dành cho các thiết bị biên. Mô hình này kết hợp bộ mã hóa thị giác SigLIP2 400M NaFlex với phần lõi văn bản LFM2.5-2.6B của công ty và được huấn luyện trên khoảng 34 nghìn tỷ token, với lượng dữ liệu thị giác gấp bốn lần so với các phiên bản trước. Mô hình đạt được kết quả tiên tiến nhất trong phân khúc kích thước của nó trên nhiều tiêu chuẩn đánh giá thị giác, bao gồm hiểu màn hình, neo (grounding) và suy luận đa hình ảnh. Mô hình cũng thể hiện hiệu suất mạnh mẽ trong các tác vụ chỉ với văn bản như làm theo hướng dẫn và sử dụng công cụ. LFM2.5-VL-3B được tối ưu hóa cho suy luận trên thiết bị, đạt 228 token mỗi giây trên M5 Max và 116 token mỗi giây trên Ryzen AI Max+ 395, thậm chí đạt 20 token mỗi giây trên Galaxy S26 Ultra. Mô hình hỗ trợ đầu vào đa khung hình với độ trễ thấp và thông lượng cao trên GPU, đạt khoảng 11 nghìn token đầu ra mỗi giây ở mức đồng thời cao. Mô hình có sẵn trên Hugging Face và tương thích với các khung suy luận chính bao gồm Transformers, vLLM và llama.cpp.