एजेंटअनुप्रयोग 🇺🇸 01.08.2026 08:02

अमेज़न बेडरॉक एजेंटकोर ऑब्ज़र्वेबिलिटी के साथ प्रोडक्शन एजेंटों का अनुकूलन

Amazon/AWSAmazon/AWS
एडब्ल्यूएस एमएल ब्लॉग की यह पोस्ट एआई एजेंटों के प्रोडक्शन में जाने के बाद प्रदर्शन और मेमोरी समस्याओं से संबंधित है। यह अमेज़न बेडरॉक एजेंटकोर ऑब्ज़र्वेबिलिटी के साथ अमेज़न क्लाउडवॉच का उपयोग करके बाधाओं और मेमोरी लीक की पहचान करने के लिए मार्गदर्शन प्रदान करता है, और निगरानी तथा अनुकूलन के लिए सर्वोत्तम तरीके सुझाता है।
यह पोस्ट AI एजेंटों की डिबगिंग पर श्रृंखला का भाग 2 है, जो सही ढंग से काम करने वाले लेकिन खराब प्रदर्शन करने वाले एजेंटों पर केंद्रित है। परिदृश्य 3 प्रदर्शन बाधाओं को कवर करता है: लक्षणों में धीरे-धीरे विलंबता बढ़ना, P95 प्रतिक्रिया समय सीमा से अधिक होना, लेकिन त्रुटि दर कम होना। निदान के लिए, उच्च-विलंबता कॉल के लिए CloudWatch क्वेरी करें, OpenTelemetry ट्रेस के माध्यम से अनुरोध समयरेखा का विश्लेषण करें, और मेमोरी पुनर्प्राप्ति विलंबता (200ms से कम होनी चाहिए) और टूल इनवोकेशन विलंबता की जाँच करें। मूल कारणों में धीमा टूल निष्पादन, अत्यधिक टोकन उत्पादन, और अनुक्रमिक प्रसंस्करण शामिल हैं। समाधानों में कैशिंग, कनेक्शन पूलिंग, डेटाबेस इंडेक्सिंग, संक्षिप्तता के लिए प्रॉम्प्ट अनुकूलन, और स्वतंत्र टूल कॉल को समानांतर में चलाना शामिल है। परिदृश्य 4 लंबे समय तक चलने वाले सत्रों में मेमोरी समस्याओं को संबोधित करता है, जहां मेमोरी उपयोग असीमित रूप से बढ़ता है, जिससे टोकन सीमाएँ और सत्र विफलताएँ होती हैं। पहचान के लिए, उच्च मेमोरी उपयोग वाले लंबे सत्रों के लिए क्वेरी करें, मेमोरी निष्कर्षण पैटर्न की जाँच करें, और निष्कर्षण विफलताओं की जाँच करें। मूल कारणों में गलत कॉन्फ़िगरेशन शामिल हैं; समाधानों में मेमोरी समेकन, नेमस्पेस टेम्पलेट, और eventExpiryDuration सेट करना शामिल है। पोस्ट उत्पादन सर्वोत्तम प्रथाओं के साथ समाप्त होती है: व्यापक इंस्ट्रुमेंटेशन, CloudWatch अलार्म, डैशबोर्ड, और सक्रिय निगरानी के लिए AgentCore Evaluators और Insights का उपयोग।
स्रोत: AWS ML blog — मूल
इस विषय पर हमारी पिछली पोस्ट ↓
ताज़ा समाचार