LFM2.5-2.6B: نموذج لغوي صغير جديد للوكلاء على الأجهزة
Liquid AI
أصدرت شركة Liquid AI نموذج LFM2.5-2.6B، وهو نموذج مدمج يضم 2.6 مليار معامل، محسّن للمهام الوكيلية مع نشر فعال على الأجهزة. ينافس هذا النموذج نماذج أكبر حتى أربع مرات في معايير الوكلاء واتباع التعليمات واستخدام الأدوات، ويوفر سرعات استدلال عالية على كل من وحدة المعالجة المركزية ووحدة معالجة الرسوميات.
قدمت Liquid AI نموذج LFM2.5-2.6B، وهو نموذج يحتوي على 2.6 مليار معامل مصمم للمهام الوكيلة على الحافة. تم تدريبه مسبقًا على حوالي 34 تريليون رمزًا مع نافذة سياق تبلغ 128 ألف رمز، وخضع للتدريب اللاحق في أربع مراحل: الضبط الدقيق الخاضع للإشراف، والتخصص المعلمي، والتقطير متعدد المجالات ضمن السياسة، والتعلم المعزز الوكيل داخل بيئات الوكيل الحقيقية. تُظهر المقارنات أنه ينافس نماذج أكبر بشكل ملحوظ، ويتفوق في اتباع التعليمات واستخدام الأدوات، بينما تحافظ النماذج الأكبر على تقدمها في مهام البرمجة. يحقق النموذج سرعات استدلال تبلغ 220 رمزًا في الثانية على شريحة Apple M5 Max و113 رمزًا في الثانية على معالج AMD Ryzen، ويمكن حتى تشغيله على الهاتف بسرعة 30 رمزًا في الثانية. يتوفر الدعم من اليوم الأول في llama.cpp وMLX وvLLM وSGLang وONNX. يتوفر LFM2.5-2.6B ونسخته الأساسية على Hugging Face.
المصدر: Hugging Face blog —
الأصلي
