Optimierung von Produktionsagenten mit Amazon Bedrock AgentCore Observability

Dieser Beitrag ist Teil 2 einer Serie über das Debugging von KI-Agenten und konzentriert sich auf Agenten, die korrekt funktionieren, aber schlecht abschneiden. Szenario 3 behandelt Leistungsengpässe: Zu den Symptomen gehören allmählich steigende Latenzen, P95-Antwortzeiten, die Schwellenwerte überschreiten, aber niedrige Fehlerraten. Zur Diagnose fragen Sie CloudWatch nach Aufrufen mit hoher Latenz ab, analysieren Sie den Anforderungszeitverlauf mithilfe von OpenTelemetry-Traces und prüfen Sie die Speicherabruf-Latenz (sollte unter 200 ms liegen) sowie die Latenz von Tool-Aufrufen. Zu den Grundursachen gehören langsame Tool-Ausführung, übermäßige Token-Generierung und sequenzielle Verarbeitung. Zu den Behebungen gehören Caching, Verbindungspooling, Datenbankindizierung, Optimierung von Prompts für Kürze und parallele Ausführung unabhängiger Tool-Aufrufe. Szenario 4 befasst sich mit Speicherproblemen in langlebigen Sitzungen, bei denen die Speichernutzung unbegrenzt wächst, was zu Token-Limits und Sitzungsfehlern führt. Zur Identifizierung fragen Sie nach langen Sitzungen mit hoher Speichernutzung ab, untersuchen Sie Speicherextraktionsmuster und prüfen Sie auf Extraktionsfehler. Zu den Grundursachen gehören falsch konfigurierte Einstellungen; zu den Behebungen gehören Speicherkonsolidierung, Namespace-Vorlagen und das Festlegen von eventExpiryDuration. Der Beitrag schließt mit Best Practices für die Produktion: umfassende Instrumentierung, CloudWatch-Alarme, Dashboards sowie die Verwendung von AgentCore-Evaluatoren und Insights für proaktives Monitoring.