Des segments à la scénario agent : pourquoi nous avons ajouté une vue GenAI de la trace
OpenAI
Proto Observability Platform a introduit une vue de trace GenAI dédiée avec quatre modes : flux, graphique d'étapes, graphique d'appels et chat. Chaque mode répond à une question différente sur le comportement de l'agent, de l'exécution séquentielle aux résultats visibles par l'utilisateur. La conception a été motivée par de véritables défauts dans l'instrumentation GenAI, tels que les contextes répétés, les erreurs cachées et les problèmes de comptage de jetons.
La plateforme Proto Observability a ajouté une vue GenAI pour les traces, répondant à la difficulté de reconstruire la logique d'un agent à partir d'un simple arbre de spans. La vue comporte quatre modes : un flux montrant les opérations dans l'ordre chronologique avec leur durée, un graphe d'étapes qui regroupe les opérations répétées pour révéler la boucle de l'agent, un graphe d'appels qui montre chaque invocation individuelle avec ses arguments uniques et son statut, et un mode conversation qui reconstruit la conversation de l'utilisateur à partir d'un historique de messages potentiellement répété. Les développeurs ont rencontré plusieurs problèmes concrets : des historiques de conversation complets étaient envoyés à chaque appel de modèle, entraînant des doublons ; les spans de transport pouvaient fausser les durées si on les additionnait naïvement ; les résultats d'outils structurés pouvaient contenir des erreurs même lorsque le statut de l'opération semblait réussi, ce qui a conduit à séparer le modèle d'erreur du modèle d'affichage ; et la consommation de jetons pouvait être cumulative ou par opération, nécessitant une détection précise de la sémantique avant agrégation. La représentation masque délibérément les détails sans rapport avec la question à laquelle chaque mode répond, tandis que les attributs bruts restent disponibles pour vérification.
Source: Habr — хаб ИИ —
original