Google: Akıl Yürütme, Dil Modellerinin Gerçekleri Tampon ve Hazırlama Yoluyla Hatırlamasına Yardımcı Olur
Google/DeepMind
Alibaba/Qwen
Google Araştırma, büyük dil modellerinde (LLM) akıl yürütmenin etkinleştirilmesinin, iki mekanizma aracılığıyla basit gerçeklerin hatırlanmasına yardımcı olduğunu buldu: ek token'lar bir hesaplama tamponu görevi görür ve ilgili gerçeklerin üretilmesi doğru hatırlamayı hazırlar. Çalışma, Gemini-2.5 ve Qwen3-32B'yi soru-cevap veri kümelerinde test ediyor.
Google Araştırma, karmaşık adımlar gerekmediğinde akıl yürütmenin, büyük dil modellerinin (LLM'ler) basit gerçekleri hatırlamasına neden yardımcı olduğunu inceledi. İki mekanizma buldular: ekstra anlamsız belirteçlerin daha fazla işlem sağladığı hesaplama tamponu ve ilgili gerçekleri üretmenin doğru hatırlamayı tetiklediği olgusal hazırlama. Deneylerde Gemini-2.5 (Flash ve Pro) ile Qwen3-32B, SimpleQA Verified ve EntityQuestions veri kümeleri üzerinde kullanıldı. Tampon etkisi hatırlamayı iyileştirdi ancak azalan getiriler gösterirken, genellikle ilgili gerçekleri gün yüzüne çıkaran doğal akıl yürütme izleri en iyi performansı sağladı. Halüsinasyon gören ara gerçekler doğruluğu düşürdü. Halüsinasyonsuz yörüngeleri koruyan test zamanı seçim stratejisi sonuçları iyileştirdi.
Kaynak: Google Research —
orijinal