ओपनटेलीमेट्री और अमेज़न क्लाउडवॉच के साथ अमेज़न बेडरॉक पर कोडेक्स के लिए दृश्यता बनाएं

AWS मशीन लर्निंग ब्लॉग ने एक पोस्ट प्रकाशित की है जिसमें OpenAI Codex कोडिंग एजेंटों के लिए ऑब्जर्वेबिलिटी सक्षम करने के बारे में बताया गया है, जो Amazon Bedrock को मॉडल प्रदाता के रूप में उपयोग करते हैं। डेवलपर्स Codex को स्थानीय रूप से चलाते हैं, और यह OpenTelemetry (OTel) मेट्रिक्स उत्सर्जित करता है। ये मेट्रिक्स प्रत्येक डेवलपर वर्कस्टेशन पर चल रहे एक कलेक्टर को भेजे जाते हैं, जो उन्हें संगठनात्मक संदर्भ (उपयोगकर्ता, टीम, विभाग, लागत केंद्र) के साथ समृद्ध करता है और AWS सिग्नेचर वर्ज़न 4 का उपयोग करके Amazon CloudWatch को अग्रेषित करता है। संदर्भ तैनाती में एक CloudWatch डैशबोर्ड शामिल है जिसमें सक्रिय उपयोगकर्ताओं, वार्तालाप टर्न, API अनुरोधों और टोकन उपयोग के लिए रोलिंग 24-घंटे के कुल योग दिखते हैं, साथ ही मॉडल, उपयोगकर्ता, टीम और अधिक के अनुसार दृश्य भी शामिल हैं। पोस्ट में आर्किटेक्चर, कार्यान्वयन चरणों (CloudWatch OTel क्षमताओं को सक्षम करना, डैशबोर्ड तैनात करना, प्रति-डेवलपर कॉन्फ़िगरेशन उत्पन्न करना, Codex कॉन्फ़िगर करना और प्रवाह को मान्य करना) और शासन संबंधी विचारों जैसे मेट्रिक कार्डिनैलिटी नियंत्रण और चरणबद्ध रोलआउट का वर्णन किया गया है। यह उपयोग टेलीमेट्री को बिलिंग-ग्रेड लागत डेटा से अलग करता है, और वित्तीय ट्रैकिंग के लिए AWS लागत और उपयोग रिपोर्ट (CUR) 2.0 की सिफारिश करता है।