Fallos de agentes de IA: por qué los paneles están verdes pero los agentes mienten durante días

Los agentes de IA fallan de manera diferente a los servicios tradicionales: no se bloquean, sino que se degradan lentamente, lo que hace que las métricas estándar de tiempo de actividad y tasa de error sean inútiles. Los agentes toman decisiones no deterministas en cada paso, por lo que los fallos ocurren en los ciclos de razonamiento y no en las respuestas finales. Para lograr la observabilidad, los equipos deben rastrear todo el ciclo de razonamiento con un identificador de traza único, medir métricas a nivel de agente como la precisión en la selección de herramientas y la tasa de finalización de objetivos, evaluar una muestra de respuestas utilizando un modelo de lenguaje grande como juez (es decir, Large Language Model, LLM), versionar los prompts en Git y escribir telemetría en dos destinos (por ejemplo, un proveedor de nube y herramientas especializadas) para evitar el bloqueo de proveedor. Estas prácticas son esenciales incluso antes de que las herramientas especializadas de observabilidad de agentes maduren.