Liquid AI phát hành LFM2.5-2.6B: Mô hình tác tử trên thiết bị với ngữ cảnh 128K, gọi công cụ và trọng số mở
Liquid AI
Google/DeepMind
Alibaba/Qwen
Liquid AI đã công bố LFM2.5-2.6B, một mô hình tác tử được thiết kế để chạy hoàn toàn trên thiết bị, có khả năng lập kế hoạch, sử dụng công cụ và thực hiện các tác vụ đa bước. Với 2,69 tỷ tham số, cửa sổ ngữ cảnh 128K và trọng số mở, mô hình này mang lại hiệu suất cạnh tranh với các mô hình lớn hơn trong khi đảm bảo quyền riêng tư dữ liệu và chi phí vận hành thấp.
Liquid AI đã phát hành LFM2.5-2.6B, một mô hình tác nhân chạy hoàn toàn trên thiết bị, có khả năng lập kế hoạch, gọi công cụ và xử lý các tác vụ đa bước trên điện thoại, máy tính xách tay, PC và robot. Mô hình có tổng cộng 2,69 tỷ tham số, cửa sổ ngữ cảnh 131.072 token và từ vựng 128.000 token, được tiền huấn luyện trên khoảng 34 nghìn tỷ token. Hai checkpoint đã được phát hành: LFM2.5-2.6B-Base để tinh chỉnh và LFM2.5-2.6B được hậu huấn luyện cho các khối lượng công việc tác nhân. Vì suy luận được giữ cục bộ, dữ liệu không bao giờ rời khỏi thiết bị và chi phí biên cho mỗi lần chạy gần bằng không. Mô hình báo cáo điểm số sử dụng công cụ và tuân theo chỉ dẫn cạnh tranh với các mô hình có kích thước gần gấp bốn lần. Cả hai checkpoint đều được công khai trên Hugging Face dưới giấy phép lfm1.0, với trọng số ở các định dạng gốc, GGUF, MLX và ONNX, và hỗ trợ ngay từ ngày đầu trong llama.cpp, vLLM, SGLang và LM Studio. Kiến trúc có 30 lớp (22 khối tích chập ngắn cổng kép cộng thêm 8 khối chú ý nhóm truy vấn) và kích thước từ vựng là 128.000. Quá trình đào tạo bao gồm bốn giai đoạn hậu huấn luyện, bao gồm tinh chỉnh có giám sát, chuyên môn hóa giáo viên với học tăng cường, chưng cất đa miền trên chính sách và học tăng cường tác nhân với GRPO. Các điểm chuẩn cho thấy mô hình dẫn đầu trong tất cả các điểm chuẩn tuân theo chỉ dẫn được báo cáo và gần như tất cả các điểm chuẩn sử dụng công cụ, chỉ xếp sau các mô hình lớn hơn như Qwen3.5-9B về BFCLv4 và các tác vụ mã hóa. Mô hình được khuyến nghị cho các khối lượng công việc tác nhân, sử dụng công cụ, trích xuất dữ liệu, RAG và các quy trình làm việc ngữ cảnh dài, nhưng không phù hợp cho mã hóa tác nhân hoặc các tác vụ nặng về tri thức.
Nguồn: MarkTechPost —
bản gốc
