Yapay Zeka Ajanlarında Bağlam Sıkıştırmanın Evrimi

Yapay zeka ajanları, kullanıcı ile dil modeli (LLM) arasında, modelin araçları veya MCP'leri çağırabildiği bir mesaj alışverişi döngüsüdür. Her etkileşim, konuşma geçmişine eklenir ve bu geçmiş genellikle bir sonraki model çağrısına bütünüyle gönderilir. Ancak bağlam pencereleri büyük olsa da sınırsız değildir ve büyük, kötü yapılandırılmış geçmişlerde performans düşer. Klasik 'Ortada Kaybolmak' makalesi U şeklinde bir eğri gösterir: modeller uzun girdilerin başını ve sonunu, ortasından daha iyi kullanır. Makale, bağlamı sıkıştırma yaklaşımlarının evrimini izler: LangChain'de trim_messages aracılığıyla basit kuyruk kırpma (kayan pencere); create_agent'ta SummarizationMiddleware kullanarak eski mesajları bir özet bloğuna özetleme; ardından Hermes Agent ve OpenRouter'ın orta-dışa sıkıştırmasında görüldüğü gibi, ortayı sıkıştırırken ilk N mesajı ve taze kuyruğu koruma. En yeni yaklaşım, saklanan geçmişi çalışma bağlamından ayırır: tam geçmiş harici olarak (örneğin bir dosyada) tutulur, model çağrısı taze kuyruk artı bir özet içeren bir görünüm alır ve ajana tam geçmişten ayrıntıları almak için read_file veya grep gibi araçlar verilir. LangChain'in Deep Agents kütüphanesi bunu SummarizationMiddleware'inde uygular, ancak isim temel ara katman yazılımıyla kafa karıştırıcı şekilde paylaşılır. Bu evrim, ajanın ne bildiğini (tam geçmiş, araç sonuçları, beceriler) ile bir sonraki model çağrısına neyin girdiğini ayırt eden daha geniş bağlam mühendisliği eğiliminin bir parçasıdır.