LFM2.5-Encoders: तेज़ लॉन्ग-कॉन्टेक्स्ट CPU इन्फ़रेंस

लिक्विड एआई ने LFM2.5-एनकोडर मॉडल जारी करने की घोषणा की है, जो दो सामान्य-उद्देश्य वाले द्विदिश एनकोडर मॉडल (230 मिलियन और 350 मिलियन पैरामीटर) हैं, जिन्हें LFM2.5 डिकोडर बैकबोन से प्रारंभ किया गया है। इन्हें दो चरणों में मास्क-आधारित भाषा उद्देश्य (30% मास्किंग) के साथ पूर्व-प्रशिक्षित किया गया है: एक बड़े वेब कोर्पस पर लघु-संदर्भ (1,024 टोकन) और पूर्ण डेटा मिश्रण पर दीर्घ-संदर्भ अनुकूलन (8,192 टोकन)। बेंचमार्क में, 350 मिलियन पैरामीटर वाला मॉडल 14 मॉडलों में चौथे स्थान पर है, जो 3.5 बिलियन तक के बड़े मॉडलों को पीछे छोड़ता है, जबकि 230 मिलियन पैरामीटर वाला मॉडल ModernBERT-base और सभी EuroBERT मॉडलों से बेहतर प्रदर्शन करता है। इन्फ्रेंस स्पीड परीक्षणों से पता चलता है कि LFM2.5-एनकोडर-230M सभी अनुक्रम लंबाईयों पर CPU पर सबसे तेज़ है; 8,192 टोकन पर यह एक फॉरवर्ड पास लगभग 28 सेकंड में पूरा करता है, जबकि ModernBERT-base को लगभग 90 सेकंड लगते हैं (3.7 गुना तेज़)। GPU पर, एनकोडर लगभग 2,000 टोकन से अधिक के इनपुट के लिए अग्रणी हैं। ये मॉडल हगिंग फेस पर ओपन-वेट हैं और वर्गीकरण, टोकन-स्तरीय कार्यों और रिट्रीवल के लिए फाइन-ट्यूनिंग का समर्थन करते हैं। डेमो में जीरो-शॉट प्रॉम्प्ट रूटिंग, पॉलिसी लिंटिंग, स्पेल चेकिंग, व्यक्तिगत पहचान योग्य जानकारी (PII) का पता लगाना और मास्क-डिफ्यूजन टेक्स्ट जनरेशन शामिल हैं।