Die Entwicklung der Kontextkompression in KI-Agenten

KI-Agenten sind ein Kreislauf des Nachrichtenaustauschs zwischen einem Benutzer und einem Sprachmodell (LLM), bei dem das Modell Tools oder MCPs aufrufen kann. Jede Interaktion wird an den Gesprächsverlauf angehängt, der in der Regel vollständig an den nächsten Modellaufruf übermittelt wird. Allerdings sind Kontextfenster, obwohl groß, nicht unbegrenzt, und die Leistung verschlechtert sich bei großen, schlecht strukturierten Verläufen. Der klassische Artikel "Lost in the Middle" zeigt eine U-förmige Kurve: Modelle nutzen den Anfang und das Ende langer Eingaben besser als die Mitte. Der Artikel verfolgt die Entwicklung der Ansätze zur Komprimierung des Kontexts: einfaches Abschneiden des Endes (Rolling Window) in LangChain über trim_messages; Zusammenfassen alter Nachrichten in einem Zusammenfassungsblock mithilfe der SummarizationMiddleware in create_agent; dann das Schützen der ersten N Nachrichten und des frischen Endes, während die Mitte komprimiert wird, wie bei Hermes Agent und OpenRouters Middle-out-Komprimierung. Der neueste Ansatz trennt den gespeicherten Verlauf vom Arbeitskontext: Der vollständige Verlauf wird extern gespeichert (z. B. in einer Datei), der Modellaufruf erhält eine Ansicht mit dem frischen Ende plus einer Zusammenfassung, und dem Agenten werden Tools wie read_file oder grep zur Verfügung gestellt, um Details aus dem vollständigen Verlauf abzurufen. LangChains Deep Agents-Bibliothek implementiert dies in ihrer SummarizationMiddleware, obwohl der Name irreführend mit der grundlegenden Middleware geteilt wird. Diese Entwicklung ist Teil des breiteren Trends des Kontext-Engineerings, das unterscheidet, was der Agent weiß (vollständiger Verlauf, Tool-Ergebnisse, Fähigkeiten) von dem, was in den nächsten Modellaufruf einfließt.