ओपन एलएलएम के लिए वसंत: जनवरी-फरवरी 2026 की 10 आर्किटेक्चर
Arcee AI
Moonshot AI
Alibaba/Qwen
MiniMax
Cohere
वसंत 2026 के दस ओपन एलएलएम की समीक्षा, जिसमें आर्किटेक्चरल समानताओं और अंतरों पर ध्यान केंद्रित किया गया है। प्रमुख मॉडलों में Trinity Large, Kimi K2.5, Step 3.5 Flash, Qwen3-Coder-Next और अन्य शामिल हैं।
लेखक जनवरी-फरवरी 2026 में जारी दस ओपन एलएलएम का अवलोकन प्रस्तुत करता है, जो आर्किटेक्चरल विवरणों पर केंद्रित है। आर्सी एआई ने ट्रिनिटी लार्ज (400B MoE, 13B सक्रिय) जारी किया, जिसमें लोकल-ग्लोबल अटेंशन (3:1), क्यूके-नॉर्म, नोपी, गेटेड अटेंशन और चार आरएमएसनॉर्म लेयर हैं। मूनशॉट एआई ने किमी K2.5 (1 ट्रिलियन पैरामीटर) पेश किया — यह K2 का मल्टीमॉडल विस्तार है, जिसे 15 ट्रिलियन विज़ुअल और टेक्स्ट टोकन पर शुरुआती फ्यूजन के साथ प्रशिक्षित किया गया। स्टेपफन का स्टेप 3.5 फ्लैश (196B MoE, 11B सक्रिय) एमटीपी-3 का उपयोग करके 128k कॉन्टेक्स्ट लंबाई पर प्रति सेकंड 100 टोकन हासिल करता है। क्वेन3-कोडर-नेक्स्ट (80B, 3B सक्रिय) ने गेटेड डेल्टानेट और गेटेड अटेंशन (3:1) के हाइब्रिड के कारण कोडिंग कार्यों में बड़े मॉडलों को पीछे छोड़ दिया। इसके अलावा, जेडएआई का जीएलएम-5, मिनीमैक्स M2.5, नैनबेज 4.1 3B, क्वेन 3.5, एंट ग्रुप का लिंग 2.5 और रिंग 2.5, कोहेरे का टाइनी आया, साथ ही सर्वम 30B और 105B मॉडल का भी उल्लेख है।
स्रोत: Sebastian Raschka —
मूल