LFM2.5-Kodlayıcıları: Hızlı Uzun Bağlam CPU Çıkarımı

Liquid AI, LFM2.5-Encoders adlı iki adet genel amaçlı çift yönlü kodlayıcı modeli (230M ve 350M parametre) yayınladı. Bu modeller, LFM2.5 çözücü omurgalarından başlatılmış olup, maskelenmiş dil hedefiyle (%30 maskeleme) iki aşamalı olarak eğitildi: kısa bağlam (1.024 token) büyük bir web külliyatında ve uzun bağlam uyarlaması (8.192 token) tam veri karışımı üzerinde. Kıyaslamalarda, 350M model 14 model arasında dördüncü sırada yer alarak 3.5B'ye kadar daha büyük modelleri geride bırakırken, 230M model ModernBERT-base ve tüm EuroBERT modellerini geride bırakıyor. Çıkarım hız testlerinde LFM2.5-Encoder-230M, tüm dizi uzunluklarında CPU'da en hızlı olarak öne çıkıyor; 8.192 tokende ileri geçişi yaklaşık 28 saniyede tamamlarken, ModernBERT-base yaklaşık 90 saniyede (3.7 kat daha hızlı). GPU'da, kodlayıcılar yaklaşık 2.000 token üzerindeki girdilerde liderlik ediyor. Modeller Hugging Face'de açık ağırlıklı olarak sunulmakta olup sınıflandırma, token düzeyinde görevler ve bilgi erişimi için ince ayar yapılmayı desteklemektedir. Demolar arasında sıfır atışlı prompt yönlendirme, politika denetimi, yazım denetimi, kişisel tanımlanabilir bilgi (PII) tespiti ve maskelenmiş difüzyon metin üretimi yer alıyor.