Обеспечьте видимость Codex на Amazon Bedrock с помощью OpenTelemetry и Amazon CloudWatch
AWS опубликовала статью, в которой объясняется, как получить видимость использования Codex на Amazon Bedrock, направляя метрики OpenTelemetry с локальных клиентов Codex через локальный коллектор в Amazon CloudWatch. Это решение обогащает метрики атрибутами организации из AWS IAM Identity Center и предоставляет панель мониторинга для отслеживания внедрения, потребления, надежности и стоимости.
В блоге AWS Machine Learning была опубликована статья о включении наблюдаемости для агентов написания кода OpenAI Codex, использующих Amazon Bedrock в качестве поставщика моделей. Разработчики запускают Codex локально, и он генерирует метрики OpenTelemetry (OTel). Эти метрики отправляются в коллектор, работающий на рабочей станции каждого разработчика, который обогащает их организационным
Показать ещё ↓
Источник: AWS ML blog —
оригинал