Sechs Schlüsselkomponenten eines Coding-Agenten: Wie moderne KI-Systeme Code schreiben

In einem ausführlichen Artikel erläutert Sebastian Raschka das Design von Coding Agents und ihren „Harnessen“ (Steuerungsgerüsten) anhand seines Mini Coding Agent als konkretem Beispiel. Er unterscheidet dabei zwischen LLMs (Large Language Models), Reasoning-Modellen, Agenten und Agent-Harnessen. Die sechs Kernkomponenten sind: 1) Live-Repo-Kontext (das Sammeln von Fakten zum Arbeitsbereich wie Git-Branch, README usw.), 2) Prompt-Struktur und Cache-Wiederverwendung (die Trennung eines stabilen Präfixes von den dynamischen Teilen, um ein erneutes Verarbeiten zu vermeiden), 3) strukturierte Tools mit Validierung und Berechtigungen (bekannte Tools mit validierten Argumenten und Sicherheitsprüfungen), 4) Kontextreduktion und Output-Management (das Abschneiden irrelevanter Verlaufsdaten, um ein Aufblähen des Kontexts zu kontrollieren), 5) Transkripte, Speicher und Wiederaufnahme (ein Sitzungsspeicher, Kurzzeitgedächtnis und die Möglichkeit, Aufgaben fortzusetzen) sowie 6) Delegation und begrenzte Subagenten (Tools, die Arbeit an Unteragenten delegieren können). Der Autor weist außerdem darauf hin, dass gerade das Harness das entscheidende Unterscheidungsmerkmal zwischen Modellen sein kann, da moderne LLMs in ihren reinen Fähigkeiten mittlerweile sehr ähnlich sind.