Principes de routage pour les harnais : harnais épais ou fin, rejet précoce et évitement des appels LLM inutiles

Cet article, troisième partie d'un tutoriel sur les harnais, se concentre sur le routage dans les systèmes d'agents IA. Il oppose un harnais « épais », qui aide les modèles plus faibles en ajoutant des entités telles que Intent, Route, Shortcut, Capability et ContextRequirement, à un harnais « fin », qui s'appuie sur des modèles puissants et met l'accent sur Capability, Workflow, ToolContract, Policy, Approval, Task et Trace. Il soutient que le harnais fin doit être utilisé lorsque c'est possible, mais que le harnais épais peut compenser les faiblesses du modèle sans compromettre les frontières de sécurité. Un principe clé est de rejeter les requêtes inexécutables le plus tôt possible, à travers des étapes comme la normalisation des entrées, la liaison au contexte, les vérifications d'accès, la sélection de workflows et les barrières de politique. L'article insiste également sur le fait de ne pas utiliser les LLM lorsque ce n'est pas nécessaire, en traitant les événements structurés ou les commandes exactes avec du code plutôt qu'avec des modèles, afin d'économiser des ressources et de réduire les erreurs. Il mentionne que le choix de l'épaisseur du harnais est la question de conception fondamentale, et que les harnais épais peuvent être progressivement « affinés » en déplaçant la reconnaissance d'intention vers le modèle.