EvoLib:将经验转化为不断进化的知识
Microsoft
微软研究院推出的EvoLib,使大语言模型无需更新模型就能从其自身的推理时间经验中学习。它提取可复用的技能和反思性见解,持续优化并重新加权,将其转化为通用知识,从而提升在多种任务上的表现。
EvoLib 是微软研究院推出的一个框架,它能让AI系统在推理过程中通过经验学习,无需依赖真实标签或模型更新。与传统的静态存储原始经验的记忆系统不同,EvoLib将过去的尝试转化为可重复使用的技能和反思性见解。这些知识单元会不断与现有的类似知识进行整合,从而变得更加通用,并且每个单元会根据其对未来任务的长期影响被赋予相应的权重。该框架在数学推理、代码效率和决策制定任务上进行了测试,在更高效的 token 使用下,始终优于基于检索的最先进记忆方法。EvoLib 还在随机任务顺序下表现出稳健的性能,这表明其在任务随机到达的现实场景中具有实际应用价值。与独立的计算缩放及其他基于记忆的方法相比,该系统随着测试时计算量的增加,性能提升更为显著。相关代码和实验已公开发布在 GitHub 上。
来源: Microsoft Research —
原文
