LLM Araştırma Makaleleri: 2026 Listesi (Ocak - Mayıs)

Sebastian Raschka, okumak veya alıntı yapmak istediği araştırma makalelerinin sürekli bir listesini tutma alışkanlığını sürdürüyor. 2026'nın ilk yarısı için, Ocak'tan Mayıs'a kadar yer imlerine eklediği makalelerden oluşan seçilmiş bir liste derledi. Liste kapsamlı olmamakla birlikte, akıl yürütme modelleri, pekiştirmeli öğrenme, verimli çıkarım, ajan koşumları, araç kullanımı, uzun bağlam, difüzyon dil modelleri ve pratik sunucu altyapısına olan ilgisini yansıtıyor. Kategoriler arasında Mimari ve Model Tasarımı, Verimli Eğitim ve Ölçeklendirme, Çıkarım Verimliliği ve KV Önbelleği, Seyrek Dikkat ve Uzun Bağlam, Akıl Yürütme ve Test Zamanı Hesaplama, Pekiştirmeli Öğrenme ve RLVR, Ajan Sistemleri ve Araç Kullanımı, Kodlama Ajanları ve Yazılım Mühendisliği, Difüzyon Dil Modelleri ile Model Değerlendirme ve Kıyaslamaları yer alıyor. Öne çıkan makaleler arasında, verimlilik için hibrit Mamba-Transformer mimarisi kullanan Nemotron 3 Super ve dikkat mekanizmasına alternatif olarak Mamba-3 ile Gated DeltaNet-2 bulunuyor. Raschka, LLM'lerin OpenClaw gibi ajan sistemlerinde kullanılmasıyla uzun bağlam verimliliğinin önemli hale geldiğini vurguluyor. Ayrıca, Qwen3.6'da Gated DeltaNet katmanlarıyla görüldüğü gibi, dönüşümlü dikkat ve alternatif katmanlar içeren hibrit mimariler trendine dikkat çekiyor.