LLM研究论文：2026年列表（1月到5月）

塞巴斯蒂安·拉什卡一直保持着整理待读或待引用研究论文清单的习惯。在2026年上半年，他整理了一份从一月至五月书签标记的精选论文列表。这份列表虽然并非详尽无遗，但反映了他对推理模型、强化学习、高效推理、智能体框架、工具使用、长上下文、扩散语言模型以及实用服务基础设施的兴趣。类别包括架构与模型设计、高效训练与缩放、推理效率与键值缓存、稀疏注意力与长上下文、推理与测试时计算、强化学习与基于强化学习的验证、智能体系统与工具使用、代码智能体与软件工程、扩散语言模型，以及模型评估与基准。值得关注的论文包括采用混合Mamba-Transformer架构以提高效率的Nemotron 3 Super，以及作为注意力机制替代方案的Mamba-3和Gated DeltaNet-2。拉什卡强调，长上下文效率非常重要，因为大语言模型被用于诸如OpenClaw之类的智能体系统中。他还指出，在Qwen3.6中出现的交替注意力层和替代层的混合架构趋势，该模型采用了Gated DeltaNet层。