Amazon Bedrock에서 Codex 가시성 구축: OpenTelemetry와 Amazon CloudWatch 활용

AWS Machine Learning Blog은 Amazon Bedrock을 모델 제공자로 사용하는 OpenAI Codex 코딩 에이전트에 대한 관찰 가능성(observability)을 활성화하는 방법에 대한 게시물을 게시했습니다. 개발자는 Codex를 로컬에서 실행하고, Codex는 OpenTelemetry(OTel) 지표를 내보냅니다. 이러한 지표는 각 개발자 워크스테이션에서 실행되는 수집기로 전송되어, 수집기는 조직적 맥락(사용자, 팀, 부서, 비용 센터)으로 지표를 강화하고 AWS Signature Version 4를 사용하여 Amazon CloudWatch로 전달합니다. 참조 배포에는 활성 사용자, 대화 턴, API 요청 및 토큰 사용량에 대한 24시간 롤링 합계를 표시하는 CloudWatch 대시보드가 포함되며, 모델, 사용자, 팀 등의 별도 보기도 제공합니다. 이 게시물은 아키텍처, 구현 단계(CloudWatch OTel 기능 활성화, 대시보드 배포, 개발자별 구성 생성, Codex 구성, 흐름 검증) 및 메트릭 카디널리티 제어, 단계적 롤아웃과 같은 거버넌스 고려 사항을 설명합니다. 사용량 텔레메트리와 청구 등급 비용 데이터를 구분하고, 재무 추적에는 AWS Cost and Usage Reports(CUR) 2.0을 권장합니다.