AI एजेंटों में संदर्भ संपीड़न का विकास

AI एजेंट उपयोगकर्ता और भाषा मॉडल (LLM) के बीच संदेश विनिमय का एक चक्र है, जहाँ मॉडल टूल या MCP को कॉल कर सकता है। प्रत्येक इंटरैक्शन वार्तालाप इतिहास में जुड़ता है, जिसे आम तौर पर अगले मॉडल कॉल में पूरा भेजा जाता है। हालाँकि, संदर्भ विंडो, हालाँकि बड़ी होती हैं, असीमित नहीं होती हैं, और बड़े, खराब संरचित इतिहास के साथ प्रदर्शन घटता है। क्लासिक 'लॉस्ट इन द मिडल' पेपर एक U-आकार का वक्र दिखाता है: मॉडल लंबे इनपुट की शुरुआत और अंत का बेहतर उपयोग करते हैं, मध्य का नहीं। लेख संदर्भ को संपीड़ित करने के दृष्टिकोणों के विकास का पता लगाता है: LangChain में trim_messages के माध्यम से सरल टेल ट्रिमिंग (रोलिंग विंडो); create_agent में SummarizationMiddleware का उपयोग करके पुराने संदेशों को सारांश ब्लॉक में संक्षेपित करना; फिर पहले N संदेशों और ताज़ा टेल की रक्षा करते हुए बीच को संपीड़ित करना, जैसा कि Hermes Agent और OpenRouter के मध्य-बाहर संपीड़न में देखा गया है। सबसे नया दृष्टिकोण संग्रहीत इतिहास को कार्य संदर्भ से अलग करता है: पूरा इतिहास बाहरी रूप से रखा जाता है (उदाहरण के लिए, एक फ़ाइल में), मॉडल कॉल को ताज़ा टेल और सारांश के साथ एक दृश्य मिलता है, और एजेंट को read_file या grep जैसे टूल दिए जाते हैं ताकि पूरे इतिहास से विवरण प्राप्त किए जा सकें। LangChain का Deep Agents लाइब्रेरी इसे अपने SummarizationMiddleware में लागू करता है, हालाँकि नाम भ्रामक रूप से बेसिक मिडलवेयर के साथ साझा किया जाता है। यह विकास संदर्भ इंजीनियरिंग की व्यापक प्रवृत्ति का हिस्सा है, जो एजेंट के ज्ञान (पूर्ण इतिहास, टूल परिणाम, कौशल) को अगले मॉडल कॉल में जाने वाली चीज़ों से अलग करता है।