Routeringsprincipes voor Harness: Dikke versus Dunne Harness, Vroege Afwijzing en het Vermijden van Onnodige LLM-aanroepen

Het artikel, het derde deel van een tutorial over harnassen, richt zich op routing in AI-agentsystemen. Het vergelijkt een 'dik' harnas, dat zwakkere modellen ondersteunt door entiteiten zoals Intent, Route, Shortcut, Capability en ContextRequirement toe te voegen, met een 'dun' harnas, dat vertrouwt op sterke modellen en de nadruk legt op Capability, Workflow, ToolContract, Policy, Approval, Task en Trace. Het betoogt dat het dunne harnas moet worden gebruikt wanneer mogelijk, maar dat het dikke harnas modelzwaktes kan compenseren zonder beveiligingsgrenzen in gevaar te brengen. Een belangrijk principe is om niet-uitvoerbare verzoeken zo vroeg mogelijk af te wijzen, via stappen zoals invoernormalisatie, contextbinding, toegangscontroles, workflowselectie en beleidscontroles. Het artikel benadrukt ook om geen LLM's te gebruiken wanneer dat niet nodig is, en om gestructureerde gebeurtenissen of exacte commando's met code af te handelen in plaats van met modellen, om middelen te besparen en fouten te verminderen. Het vermeldt dat de keuze van de dikte van het harnas de fundamentele ontwerpvraag is, en dat dikke harnassen geleidelijk kunnen worden 'afgeslankt' door intentieherkenning naar het model te verplaatsen.