LLM शोध पत्र: 2026 सूची (जनवरी से मई)
NVIDIA
Alibaba/Qwen
Mistral
Baidu
Cohere
Technology Innovation Institute
MiniMax
Sebastian Raschka ने जनवरी से मई 2026 के बीच बुकमार्क किए गए LLM शोध पत्रों की एक चुनिंदा सूची तैयार की है, जिसमें आर्किटेक्चर, कुशल प्रशिक्षण, तर्क, एजेंट और अन्य विषय शामिल हैं। सूची में हाइब्रिड आर्किटेक्चर (Nemotron 3, Mamba-3), तर्क मॉडल और व्यावहारिक सर्विंग इंफ्रास्ट्रक्चर शामिल हैं।
सेबेस्टियन राश्का ने उन शोध पत्रों की एक चलती सूची बनाए रखने की आदत विकसित की है जिन्हें वह पढ़ना या उद्धृत करना चाहते हैं। 2026 की पहली छमाही के लिए, उन्होंने जनवरी से मई तक बुकमार्क किए गए पत्रों की एक चुनिंदा सूची तैयार की। यह सूची संपूर्ण नहीं है, लेकिन यह तर्क मॉडल, सुदृढ़ीकरण अधिगम, कुशल अनुमान, एजेंट हार्नेस, उपकरण उपयोग, लंबा संदर्भ, विसरण भाषा मॉडल और व्यावहारिक सर्वरिंग बुनियादी ढांचे में उनकी रुचि को दर्शाती है। श्रेणियों में आर्किटेक्चर और मॉडल डिज़ाइन, कुशल प्रशिक्षण और स्केलिंग, अनुमान दक्षता और केवी कैश, विरल ध्यान और लंबा संदर्भ, तर्क और परीक्षण-समय गणना, सुदृढ़ीकरण अधिगम और आरएलवीआर, एजेंट सिस्टम और उपकरण उपयोग, कोडिंग एजेंट और सॉफ्टवेयर इंजीनियरिंग, विसरण भाषा मॉडल, और मॉडल मूल्यांकन और बेंचमार्क शामिल हैं। उल्लेखनीय पत्रों में Nemotron 3 Super शामिल है, जो दक्षता के लिए हाइब्रिड Mamba-Transformer आर्किटेक्चर का उपयोग करता है, और ध्यान के विकल्प के रूप में Mamba-3 और Gated DeltaNet-2 शामिल हैं। राश्का ने इस बात पर प्रकाश डाला कि लंबे-संदर्भ दक्षता महत्वपूर्ण है क्योंकि एलएलएम का उपयोग OpenClaw जैसी एजेंट प्रणालियों में किया जा रहा है। वह वैकल्पिक ध्यान और वैकल्पिक परतों के साथ हाइब्रिड आर्किटेक्चर के रुझान पर भी ध्यान देते हैं, जैसा कि Gated DeltaNet परतों वाले Qwen3.6 में देखा गया है।
स्रोत: Sebastian Raschka —
मूल