Visibilidad de Codex en Amazon Bedrock con OpenTelemetry y Amazon CloudWatch
Amazon Web Services
AWS publicó un artículo que explica cómo obtener visibilidad sobre el uso de Codex en Amazon Bedrock, enrutando las métricas de OpenTelemetry desde los clientes locales de Codex a través de un colector local hasta Amazon CloudWatch. La solución enriquece las métricas con atributos organizativos de AWS IAM Identity Center y proporciona un panel para monitorear la adopción, el consumo, la confiabilidad y el costo.
El blog de Machine Learning de AWS publicó un post sobre cómo habilitar la observabilidad para los agentes de codificación OpenAI Codex que utilizan Amazon Bedrock como proveedor de modelos. Los desarrolladores ejecutan Codex localmente, y este emite métricas de OpenTelemetry (OTel). Estas métricas se envían a un colector que se ejecuta en cada estación de trabajo de desarrollador, que las enriquece con contexto organizacional (usuario, equipo, departamento, centro de costos) y las reenvía a Amazon CloudWatch utilizando AWS Signature Version 4. La implementación de referencia incluye un panel de CloudWatch con totales móviles de 24 horas para usuarios activos, turnos de conversación, solicitudes de API y uso de tokens, además de vistas por modelo, usuario, equipo, y más. El post describe la arquitectura, los pasos de implementación (habilitar las capacidades de OTel en CloudWatch, implementar el panel, generar configuración por desarrollador, configurar Codex y validar el flujo), y consideraciones de gobernanza como el control de cardinalidad de métricas y la implementación por fases. Distingue la telemetría de uso de los datos de costos de facturación, recomendando los Informes de Costos y Uso de AWS (CUR) 2.0 para el seguimiento financiero.
Fuente: AWS ML blog —
original