Análise de Causa Raiz com IA Passa do Raciocínio do Modelo para a Engenharia de Contexto

Um número crescente de engenheiros de observabilidade acredita que a capacidade de raciocínio dos grandes modelos de linguagem não é mais o gargalo para a análise de causa raiz (RCA) assistida por IA; a questão mais urgente é o pipeline de processamento que decide quais dados são passados para o modelo. A maior parte do trabalho de RCA com IA se enquadra em duas categorias: design baseado em agentes, que dá ao modelo ferramentas para investigar autonomamente, e design determinístico, que pré-estabelece correlações entre sinais e fornece um contexto pré-empacotado. A pesquisa da Coroot, liderada pelo engenheiro Nikolay Sivko, divide o processo em duas tarefas: raciocinar sobre os dados apresentados e o 'framework de coleta de dados' que decide quais dados vão para o modelo. O pipeline da Coroot correlaciona sinais em descobertas e os passa para o modelo como um único contexto focado, evitando loops de agentes, permitindo que erros sejam atribuídos ao próprio modelo. Sivko construiu um cenário usando o Chaos Mesh NetworkChaos para injetar latência entre um serviço de diretório e seu banco de dados Postgres, causando consultas lentas e erros 502, com sinais enganosos. Ele testou onze modelos com o mesmo prompt (~9800 tokens), pedindo a cada um que fornecesse a causa raiz, a cadeia causal e a correção imediata. Os modelos de fronteira Claude Opus 4.8, GPT-5.5 e Gemini 3.1 Pro passaram, identificando o experimento e a necessidade de excluí-lo, juntamente com seu cron job. Entre os modelos menores, o Gemma 4 31B foi o único modelo auto-hospedado a identificar a causa raiz, enquanto os maiores Qwen3.6 35B e Qwen3 Coder Next falharam. Abordagens baseadas em agentes têm vantagens, como capturar sinais inesperados, mas sofrem de problemas de depurabilidade em produção, como visto nos casos da ZenML e da Incident.io. Muitos profissionais agora preferem fluxos de trabalho determinísticos com uma etapa estreita de LLM devido à confiabilidade e aos menores custos de tokens. Sivko observa que uma única chamada curta para modelos de fronteira custa apenas alguns centavos, já que a análise de correlação é feita antes da chamada; ele acredita que a parte de raciocínio está 'essencialmente resolvida' e o foco atual está em preparar o contexto certo e compacto. Isso está alinhado com a tendência mais ampla de engenharia de contexto, como a orientação da Anthropic, LangChain e Mezmo enfatiza a importância de um conjunto de contexto mínimo e de alto sinal para raciocínio baseado em LLM e observabilidade.