Context Engineering: Was es ist, wie man mit LLM-Agent-Kontext arbeitet und warum man dafür bezahlt wird

Context Engineering ist eine Reihe von Strategien zum Sammeln und Pflegen des optimalen Kontexts während der LLM-Inferenz (Large Language Model, großes Sprachmodell), wobei optimaler Kontext die minimale Menge an nützlichen Tokens bedeutet. Es unterscheidet sich vom Prompt Engineering, das sich nur mit Anweisungen befasst, während Context Engineering alles verwaltet, was das Modell zusammen mit der Anweisung erhält: Verlauf, Dokumente, Tools, Speicher und Zustand. RAG (Retrieval-Augmented Generation) bringt externes Wissen ein, MCP (Model Context Protocol) standardisiert Verbindungen zu Daten und Tools, und Context Engineering entscheidet, wie all dies zu einem Kontext für den nächsten Schritt des Agenten zusammengesetzt wird. Der Kontext eines Agenten besteht aus mehreren Schichten: Nutzeranfrage, System-Prompt, Tools, Few-Shot-Beispiele, Daten aus RAG, Nachrichtenverlauf und Tool-Aufrufe, Speicher sowie aktueller Zustand (Scratchpad). Obwohl moderne LLMs über große Kontextfenster verfügen, zeigte der Bericht "Context Rot" von Chroma, dass die Qualität mit wachsendem genutzten Kontext selbst bei einfachen Aufgaben abnehmen kann. Drew Breunig identifizierte vier typische Szenarien für Kontextfehler: Context Poisoning (ein Fehler gelangt in den Kontext und wiederholt sich), Context Distraction (notwendige Informationen gehen zwischen irrelevanten Daten verloren), Context Confusion (das Modell verwechselt ähnliche Tools/Dokumente) und Context Clash (widersprüchliche Daten ohne Prioritätsregeln). LangChain schlägt vier Maßnahmen zur Verwaltung des Kontexts vor: Write (wichtige Informationen im externen Zustand speichern), Select (relevante Inhalte auswählen), Compress (komprimieren) und Isolate (in einen separaten Kontext auslagern).