Sichtbarkeit für Codex auf Amazon Bedrock mit OpenTelemetry und Amazon CloudWatch schaffen
Amazon Web Services
AWS hat einen Beitrag veröffentlicht, der erklärt, wie man Einblick in die Codex-Nutzung auf Amazon Bedrock gewinnt, indem OpenTelemetry-Metriken von lokalen Codex-Clients über einen lokalen Collector an Amazon CloudWatch weitergeleitet werden. Die Lösung reichert Metriken mit organisatorischen Attributen aus AWS IAM Identity Center an und stellt ein Dashboard für die Überwachung von Adoption, Verbrauch, Zuverlässigkeit und Kosten bereit.
Der AWS Machine Learning Blog hat einen Beitrag veröffentlicht, der sich mit der Ermöglichung von Observability für OpenAI-Codex-Coding-Agenten befasst, die Amazon Bedrock als Modellanbieter nutzen. Entwickler führen Codex lokal aus, und dieser emittiert OpenTelemetry (OTel)-Metriken. Diese Metriken werden an einen Collector gesendet, der auf jeder Entwickler-Workstation läuft, sie mit organisatorischem Kontext (Benutzer, Team, Abteilung, Kostenstelle) anreichert und sie mithilfe von AWS Signature Version 4 an Amazon CloudWatch weiterleitet. Die Referenzbereitstellung umfasst ein CloudWatch-Dashboard mit rollierenden 24-Stunden-Gesamtwerten für aktive Benutzer, Konversationsrunden, API-Anfragen und Token-Nutzung sowie Ansichten nach Modell, Benutzer, Team und mehr. Der Beitrag beschreibt die Architektur, Implementierungsschritte (Aktivierung der CloudWatch-OTel-Funktionen, Bereitstellung des Dashboards, Generierung der Konfiguration pro Entwickler, Konfiguration von Codex und Validierung des Flows) sowie Governance-Überlegungen wie Metrik-Kardinalitätskontrolle und schrittweise Einführung. Er unterscheidet Nutzungstelemetrie von abrechnungsrelevanten Kostendaten und empfiehlt AWS Cost and Usage Reports (CUR) 2.0 für die finanzielle Nachverfolgung.
Quelle: AWS ML blog —
Original