Google: 추론 능력이 언어 모델의 사실 회상에 도움 – 버퍼와 프라이밍 메커니즘

Google Research는 추론이 복잡한 단계가 필요 없는 간단한 사실을 LLM이 회상하는 데 도움이 되는 이유를 연구했습니다. 연구진은 두 가지 메커니즘을 발견했습니다. 하나는 추가적인 무의미한 토큰이 더 많은 처리를 제공하는 계산 버퍼(computational buffer)이고, 다른 하나는 관련 사실을 생성함으로써 정확한 회상을 촉진하는 사실적 프라이밍(factual priming)입니다. 실험은 Gemini-2.5(Flash 및 Pro)와 Qwen3-32B를 사용하여 SimpleQA Verified 및 EntityQuestions 데이터셋에서 수행되었습니다. 버퍼 효과는 회상을 개선했지만 수확 체감이 있었으며, 자연스러운 추론 과정에서 관련 사실이 자주 표면화되는 것이 최상의 성능을 보였습니다. 환각된 중간 사실은 정확도를 떨어뜨렸습니다. 환각이 없는 궤적을 유지하는 테스트 시점 선택 전략(test-time selection strategy)이 결과를 개선했습니다.