Otimizando agentes de produção com a observabilidade do Amazon Bedrock AgentCore

Esta publicação é a Parte 2 de uma série sobre depuração de agentes de IA, focando em agentes que funcionam corretamente, mas apresentam desempenho ruim. O Cenário 3 aborda gargalos de desempenho: os sintomas incluem aumentos graduais de latência, tempos de resposta P95 excedendo limites, mas baixas taxas de erro. Para diagnosticar, consulte o CloudWatch para invocações de alta latência, analise a linha do tempo da solicitação por meio de rastreamentos do OpenTelemetry e verifique a latência de recuperação de memória (que deve ser inferior a 200ms) e a latência de invocação de ferramentas. As causas raiz incluem execução lenta de ferramentas, geração excessiva de tokens e processamento sequencial. As correções incluem cache, pool de conexões, indexação de banco de dados, otimização de prompts para concisão e execução paralela de chamadas de ferramentas independentes. O Cenário 4 aborda problemas de memória em sessões de longa duração, onde o uso de memória cresce sem limite, levando a limites de tokens e falhas de sessão. Para identificar, consulte sessões longas com alto uso de memória, examine os padrões de extração de memória e verifique se há falhas de extração. As causas raiz incluem configurações mal ajustadas; as correções envolvem consolidação de memória, modelos de namespace e definição de eventExpiryDuration. A publicação conclui com práticas recomendadas de produção: instrumentação abrangente, alarmes do CloudWatch, painéis e uso dos AgentCore Evaluators e Insights para monitoramento proativo.