بناء الرؤية لـ Codex على Amazon Bedrock باستخدام OpenTelemetry و Amazon CloudWatch

نشرت مدونة AWS للتعلم الآلي مقالًا حول تمكين المراقبة لوكلاء البرمجة OpenAI Codex الذين يستخدمون Amazon Bedrock كمزود للنماذج. يقوم المطورون بتشغيل Codex محليًا، ويصدر هذا الأخير مقاييس OpenTelemetry (OTel). يتم إرسال هذه المقاييس إلى مُجمّع يعمل على كل محطة عمل للمطور، والذي يُثريها بسياق تنظيمي (المستخدم، الفريق، القسم، مركز التكلفة) ويُحيلها إلى Amazon CloudWatch باستخدام توقيع AWS الإصدار 4. يتضمن النشر المرجعي لوحة تحكم CloudWatch تعرض إجمالياتٍ متجددة على مدار 24 ساعة للمستخدمين النشطين، وجولات المحادثة، وطلبات واجهة برمجة التطبيقات، واستخدام الرموز، بالإضافة إلى عروض حسب النموذج والمستخدم والفريق والمزيد. يصف المقال البنية، وخطوات التنفيذ (تمكين قدرات CloudWatch OTel، ونشر لوحة التحكم، وإنشاء تكوين لكل مطور، وتهيئة Codex، والتحقق من صحة التدفق)، والاعتبارات الإدارية مثل التحكم في أصل المقاييس والتوزيع التدريجي. كما يميّز المقال بين بيانات الاستخدام عن بُعد وبيانات التكلفة على مستوى الفوترة، ويوصي بتقارير AWS للاستخدام والتكلفة (CUR) 2.0 للتتبع المالي.