Optimización de agentes en producción con Amazon Bedrock AgentCore Observability

Esta publicación es la Parte 2 de una serie sobre la depuración de agentes de IA, centrada en agentes que funcionan correctamente pero tienen un rendimiento deficiente. El escenario 3 cubre los cuellos de botella de rendimiento: los síntomas incluyen aumentos graduales de latencia, tiempos de respuesta del percentil 95 que superan los umbrales, pero tasas de error bajas. Para diagnosticar, consulta CloudWatch en busca de invocaciones de alta latencia, analiza la línea de tiempo de las solicitudes mediante trazas de OpenTelemetry y verifica la latencia de recuperación de memoria (debe ser inferior a 200 ms) y la latencia de invocación de herramientas. Las causas raíz incluyen la ejecución lenta de herramientas, la generación excesiva de tokens y el procesamiento secuencial. Las soluciones incluyen el almacenamiento en caché, la agrupación de conexiones, la indexación de bases de datos, la optimización de los mensajes para que sean breves y la ejecución de llamadas a herramientas independientes en paralelo. El escenario 4 aborda los problemas de memoria en sesiones de larga duración, donde el uso de memoria crece sin límites, lo que lleva a límites de tokens y fallos de sesión. Para identificar el problema, consulta las sesiones largas con alto uso de memoria, examina los patrones de extracción de memoria y verifica si hay fallos de extracción. Las causas raíz incluyen configuraciones mal establecidas; las soluciones implican la consolidación de memoria, plantillas de espacios de nombres y el establecimiento de eventExpiryDuration. La publicación concluye con las mejores prácticas de producción: instrumentación exhaustiva, alarmas de CloudWatch, paneles de control y el uso de AgentCore Evaluators e Insights para la monitorización proactiva.