Bouw zichtbaarheid voor Codex op Amazon Bedrock met OpenTelemetry en Amazon CloudWatch
Amazon Web Services
AWS publiceerde een artikel waarin wordt uitgelegd hoe u inzicht kunt krijgen in het gebruik van Codex op Amazon Bedrock door OpenTelemetry-metrieken van lokale Codex-clients via een lokale collector naar Amazon CloudWatch te routeren. De oplossing verrijkt de metrieken met organisatiekenmerken van AWS IAM Identity Center en biedt een dashboard voor het monitoren van adoptie, verbruik, betrouwbaarheid en kosten.
Het AWS Machine Learning Blog plaatste een bericht over het mogelijk maken van observeerbaarheid voor OpenAI Codex codeeragenten die Amazon Bedrock als modelprovider gebruiken. Ontwikkelaars draaien Codex lokaal, en het zendt OpenTelemetry (OTel) metrieken uit. Deze metrieken worden naar een collector gestuurd die op elke ontwikkelwerkstation draait, die ze verrijkt met organisatorische context (gebruiker, team, afdeling, kostenplaats) en ze doorstuurt naar Amazon CloudWatch met behulp van AWS Signature Version 4. De referentie-implementatie omvat een CloudWatch-dashboard met doorlopende totalen over 24 uur voor actieve gebruikers, conversatierondes, API-verzoeken en tokenverbruik, plus weergaven op model, gebruiker, team en meer. Het bericht beschrijft de architectuur, implementatiestappen (het inschakelen van CloudWatch OTel-capaciteiten, het implementeren van het dashboard, het genereren van configuratie per ontwikkelaar, het configureren van Codex en het valideren van de stroom), en governance-overwegingen zoals het beheersen van metriek-kardinaliteit en gefaseerde uitrol. Het maakt onderscheid tussen gebruikstelemetrie en factureringsgerelateerde kostendata, en beveelt AWS Cost and Usage Reports (CUR) 2.0 aan voor financiële tracking.
Bron: AWS ML blog —
origineel