KI-Agenten-Fehler: Warum Dashboards grün sind, Agenten aber tagelang lügen
Cloud.ru
Klassisches Monitoring erkennt Fehler von KI-Agenten nicht, da Agenten allmählich nachlassen, nicht abstürzen. Um Probleme zu erkennen, müssen Teams Reasoning-Zyklen verfolgen, agentische Qualitätsmetriken messen, LLM-as-Judge-Bewertung einsetzen, Prompts versionieren und ab Tag eins Telemetrie an zwei Ziele schreiben.
KI-Agenten versagen anders als traditionelle Dienste: Sie stürzen nicht ab, sondern verschlechtern sich langsam, was die üblichen Metriken für Verfügbarkeit und Fehlerraten unbrauchbar macht. Agenten treffen bei jedem Schritt nicht-deterministische Entscheidungen, daher treten Fehler eher in Denkzyklen als in endgültigen Antworten auf. Um Beobachtbarkeit zu erreichen, müssen Teams den gesamten Denkzyklus mit einer eindeutigen Trace-ID verfolgen, agentenspezifische Metriken wie Werkzeugauswahlgenauigkeit und Zielerreichungsrate messen, eine Stichprobe der Antworten mittels LLM-als-Richter bewerten, Prompts in Git versionieren und Telemetriedaten an zwei Ziele (z. B. Cloud-Anbieter und spezialisierte Tools) senden, um eine Anbieterbindung zu vermeiden. Diese Praktiken sind bereits unerlässlich, bevor spezialisierte Werkzeuge zur Beobachtbarkeit von Agenten ausgereift sind.
Quelle: Habr — хаб ИИ —
Original