Google: Raciocínio Ajuda Modelos de Linguagem a Recordar Fatos Através de Buffer e Priming

A Google Research estudou por que o raciocínio ajuda modelos de linguagem grandes (LLMs) a recordar fatos simples, mesmo quando nenhuma etapa complexa é necessária. Eles descobriram dois mecanismos: um buffer computacional, onde tokens extras sem significado fornecem mais processamento, e um priming factual, onde a geração de fatos relacionados prepara a recordação correta. Os experimentos usaram Gemini-2.5 (Flash e Pro) e Qwen3-32B nos conjuntos de dados SimpleQA Verified e EntityQuestions. O efeito de buffer melhorou a recordação, mas com retornos decrescentes, enquanto traços de raciocínio naturais que frequentemente traziam fatos relacionados apresentaram o melhor desempenho. Fatos intermediários alucinados reduziram a precisão. Uma estratégia de seleção em tempo de teste que mantém trajetórias livres de alucinação melhorou os resultados.