Frühling für offene LLMs: 10 Architekturen im Januar–Februar 2026
Arcee AI
Moonshot AI
Alibaba/Qwen
MiniMax
Cohere
Ein Überblick über zehn offene LLMs aus dem Frühjahr 2026, mit Schwerpunkt auf architektonischen Gemeinsamkeiten und Unterschieden. Zu den wichtigsten Modellen gehören Trinity Large, Kimi K2.5, Step 3.5 Flash, Qwen3-Coder-Next und andere.
Der Autor gibt einen Überblick über zehn offene LLMs, die im Januar/Februar 2026 veröffentlicht wurden, und konzentriert sich dabei auf architektonische Details. Arcee AI veröffentlichte Trinity Large (400B MoE, 13B aktiv) mit lokal-globale Aufmerksamkeit (3:1), QK-Norm, NoPE, gated Attention und vier RMSNorm-Schichten. Moonshot AI stellte Kimi K2.5 (1 Billion Parameter) vor – eine multimodale Erweiterung von K2, trainiert auf 15 Billionen visuellen und Text-Tokens mit früher Fusion. Step 3.5 Flash von StepFun (196B MoE, 11B aktiv) erreichte 100 Tokens pro Sekunde bei einer Kontextlänge von 128k unter Verwendung von MTP-3. Qwen3-Coder-Next (80B, 3B aktiv) übertraf größere Modelle bei Codierungsaufgaben dank einer Mischung aus Gated DeltaNet und Gated Attention (3:1). Ebenfalls erwähnt werden GLM-5 von z.AI, MiniMax M2.5, Nanbeige 4.1 3B, Qwen 3.5, Ling 2.5 und Ring 2.5 von Ant Group, Tiny Aya von Cohere sowie die Modelle Sarvam 30B und 105B.
Quelle: Sebastian Raschka —
Original