Routing-Prinzipien für KI-Agenten: Dickes versus dünnes Harness, frühzeitige Ablehnung und Vermeidung unnötiger LLM-Aufrufe

Der Artikel, der dritte Teil eines Tutorials über Geschirre, konzentriert sich auf das Routing in KI-Agentensystemen. Er stellt ein 'dickes' Geschirr, das schwächeren Modellen hilft, indem es Entitäten wie Intent, Route, Shortcut, Capability und ContextRequirement hinzufügt, einem 'dünnen' Geschirr gegenüber, das auf starken Modellen basiert und Capability, Workflow, ToolContract, Policy, Approval, Task und Trace betont. Er argumentiert, dass das dünne Geschirr verwendet werden sollte, wann immer möglich, aber das dicke Geschirr Modellschwächen kompensieren kann, ohne Sicherheitsgrenzen zu gefährden. Ein zentrales Prinzip ist, nicht ausführbare Anfragen so früh wie möglich abzulehnen, durch Schritte wie Eingabenormalisierung, Kontextbindung, Zugriffsprüfungen, Workflow-Auswahl und Policy-Gates. Der Artikel betont außerdem, LLMs nicht zu verwenden, wenn sie nicht benötigt werden, und strukturierte Ereignisse oder exakte Befehle mit Code anstelle von Modellen zu behandeln, um Ressourcen zu sparen und Fehler zu reduzieren. Er erwähnt, dass die Wahl der Geschirrdicke die grundlegende Designfrage ist und dass dicke Geschirre schrittweise 'verdünnt' werden können, indem die Absichtserkennung an das Modell verlagert wird.