Açık LLM'ler için Bahar: Ocak-Şubat 2026'da 10 Mimari
Arcee AI
Moonshot AI
Alibaba/Qwen
MiniMax
Cohere
2026 baharındaki on açık LLM'nin, mimari benzerlikler ve farklılıklara odaklanan bir incelemesi. Ana modeller arasında Trinity Large, Kimi K2.5, Step 3.5 Flash, Qwen3-Coder-Next ve diğerleri yer alıyor.
Yazar, Ocak-Şubat 2026'da yayımlanan on açık LLM'ye genel bir bakış sunarak mimari detaylara odaklanıyor. Arcee AI, yerel-küresel dikkat (3:1), QK-Norm, NoPE, geçitli dikkat ve dört RMSNorm katmanıyla Trinity Large'ı (400B MoE, 13B aktif) yayımladı. Moonshot AI, Kimi K2.5'i (1 trilyon parametre) tanıttı — bu, 15 trilyon görsel ve metin tokeni üzerinde erken kaynaştırma ile eğitilmiş K2'nin çok modlu bir uzantısıdır. StepFun'dan Step 3.5 Flash (196B MoE, 11B aktif), MTP-3 kullanarak 128k bağlam uzunluğunda saniyede 100 token hızına ulaştı. Qwen3-Coder-Next (80B, 3B aktif), Geçitli DeltaNet ve Geçitli Dikkatin (3:1) bir karışımı sayesinde kodlama görevlerinde daha büyük modelleri geride bıraktı. Ayrıca z.AI'den GLM-5, MiniMax M2.5, Nanbeige 4.1 3B, Qwen 3.5, Ant Group'tan Ling 2.5 ve Ring 2.5, Cohere'den Tiny Aya ile Sarvam 30B ve 105B modelleri de bahsedilenler arasında yer alıyor.
Kaynak: Sebastian Raschka —
orijinal