De Spans a Cenários de Agente: Por Que Adicionamos uma Visão GenAI do Rastreamento
OpenAI
A Plataforma de Observabilidade Proto introduziu uma visão de rastreamento GenAI dedicada com quatro modos: feed, gráfico de etapas, gráfico de chamadas e chat. Cada modo responde a uma pergunta diferente sobre o comportamento do agente, desde execução sequencial até resultados visíveis ao usuário. O design foi impulsionado por defeitos reais na instrumentação GenAI, como contexto repetido, erros ocultos e problemas de contagem de tokens.
A Plataforma Proto de Observabilidade adicionou uma visão de GenAI para traces, abordando a dificuldade de reconstruir a lógica do agente a partir de uma simples árvore de spans. A visão tem quatro modos: um feed mostrando as operações em ordem cronológica com tempo, um gráfico de etapas que colapsa operações repetidas para revelar o loop do agente, um gráfico de chamadas que mostra cada invocação individual com seus argumentos e status exclusivos, e um modo de chat que reconstrói a conversa do usuário a partir de um histórico de mensagens potencialmente repetido. Os desenvolvedores encontraram vários problemas do mundo real: históricos completos de conversas eram enviados com cada chamada de modelo, levando a duplicatas; spans de transporte poderiam distorcer o tempo se somados ingenuamente; resultados de ferramentas estruturados poderiam conter erros mesmo quando o status da operação parecia bem-sucedido, então o modelo de erro foi separado do modelo de exibição; e o consumo de tokens poderia ser cumulativo ou por operação, exigindo detecção cuidadosa de semântica antes da agregação. A representação intencionalmente oculta detalhes não relevantes para a pergunta que cada modo responde, enquanto os atributos brutos permanecem disponíveis para verificação.
Fonte: Habr — хаб ИИ —
original
