AgentCore ऑब्ज़र्वबिलिटी के साथ ऑन-प्रिमाइसेस और मल्टी-क्लाउड AI एजेंट्स की निगरानी करें
Amazon Web Services
Anthropic
Amazon Bedrock AgentCore ऑब्ज़र्वबिलिटी अब AWS के बाहर चलने वाले एजेंट्स का समर्थन करती है, जैसे कि ऑन-प्रिमाइसेस या अन्य क्लाउड पर। यह पोस्ट दिखाता है कि AWS Distro for OpenTelemetry (ADOT) ऑटो-इंस्ट्रुमेंटेशन का उपयोग करके टेलीमेट्री को CloudWatch पर रूट कैसे किया जाए, जिससे गैर-AWS वातावरण में तैनात एजेंट्स के लिए केंद्रीकृत निगरानी संभव हो सके।
यह पोस्ट बताती है कि AWS के बाहर चलने वाले AI एजेंटों के लिए ADOT ऑटो-इंस्ट्रुमेंटेशन का उपयोग करके ऑब्ज़र्वेबिलिटी कैसे सेट की जाए। यह समाधान टेलीमेट्री को Amazon CloudWatch OTLP एंडपॉइंट पर SigV4 प्रमाणीकरण के साथ रूट करता है, जिसमें IAM क्रेडेंशियल्स का उपयोग होता है। सेटअप के लिए तीन घटकों की आवश्यकता होती है: ADOT ऑटो-इंस्ट्रुमेंटेशन, IAM क्रेडेंशियल्स, और पर्यावरण चर। वॉकथ्रू में Strands एजेंट का उपयोग किया गया है, लेकिन यह पैटर्न LangGraph और CrewAI जैसे अन्य OpenTelemetry-संगत फ्रेमवर्क पर भी लागू होता है। समाधान को ऑन-प्रिमाइसेस सिमुलेटेड वातावरण और Google Cloud Shell पर मान्य किया गया था। कंसोल AgentCore ऑब्ज़र्वेबिलिटी डैशबोर्ड में सत्र, ट्रेस, स्पैन मेट्रिक्स, टोकन उपयोग और विलंबता प्रदर्शित करता है। पोस्ट गैर-AWS रनटाइम और AgentCore रनटाइम के बीच टेलीमेट्री संग्रह और क्रेडेंशियल प्रबंधन की तुलना भी करता है, और सुसंगत नामकरण और get-caller-identity के साथ क्रेडेंशियल्स की पुष्टि करने जैसी सर्वोत्तम प्रथाएँ प्रदान करता है।
स्रोत: AWS ML blog —
मूल