LFM2.5-2.6B: डिवाइस पर एजेंटों के लिए एक नया छोटा भाषा मॉडल
Liquid AI
Liquid AI ने LFM2.5-2.6B जारी किया है, जो 2.6 अरब पैरामीटर वाला एक कॉम्पैक्ट मॉडल है, जिसे एजेंटिक कार्यों के लिए अनुकूलित किया गया है और डिवाइस पर कुशल तैनाती के साथ आता है। यह एजेंटिक, निर्देश-पालन और टूल-उपयोग बेंचमार्क में चार गुना बड़े मॉडलों को टक्कर देता है, और CPU और GPU दोनों पर उच्च अनुमान गति प्रदान करता है।
लिक्विड एआई ने LFM2.5-2.6B पेश किया, जो एज पर एजेंटिक कार्यों के लिए डिज़ाइन किया गया 2.6 बिलियन पैरामीटर वाला मॉडल है। लगभग 34 ट्रिलियन टोकन पर प्री-ट्रेनिंग और 128K की कॉन्टेक्स्ट विंडो के साथ, इसे चार चरणों में पोस्ट-ट्रेनिंग दी गई: सुपरवाइज़्ड फाइन-ट्यूनिंग, टीचर स्पेशलाइज़ेशन, मल्टी-डोमेन ऑन-पॉलिसी डिस्टिलेशन, और वास्तविक एजेंट हार्नेस में एजेंटिक रीइन्फोर्समेंट लर्निंग। बेंचमार्किंग से पता चलता है कि यह काफी बड़े मॉडलों के साथ प्रतिस्पर्धा करता है, निर्देश पालन और टूल उपयोग में उत्कृष्ट प्रदर्शन करता है, जबकि बड़े मॉडल कोडिंग कार्यों में बढ़त बनाए रखते हैं। यह मॉडल Apple M5 Max पर 220 टोकन प्रति सेकंड और AMD Ryzen CPU पर 113 टोकन प्रति सेकंड की इन्फ्रेंस स्पीड हासिल करता है, और फोन पर 30 टोकन प्रति सेकंड की गति से भी चल सकता है। पहले दिन से ही llama.cpp, MLX, vLLM, SGLang और ONNX में समर्थन उपलब्ध है। LFM2.5-2.6B और इसका बेस वैरिएंट हगिंग फेस पर उपलब्ध हैं।
स्रोत: Hugging Face blog —
मूल