AWS ने AgentCore गेटवे पर AI ट्रैफ़िक के लिए रेट लिमिटिंग पेश की

अमेज़न वेब सर्विसेज़ (AWS) ने अपने एजेंटकोर गेटवे पर AI ट्रैफ़िक के लिए दर सीमाएँ कॉन्फ़िगर करने की एक सुविधा की घोषणा की है। यह क्षमता संगठनों को AI मॉडल्स को भेजे जाने वाले अनुरोधों की मात्रा प्रबंधित करने में मदद करने के लिए डिज़ाइन की गई है, जिससे ओवरलोड को रोका जा सके और लागत को नियंत्रित किया जा सके। एजेंटकोर गेटवे AI मॉडल इनवोकेशन के लिए एक केंद्रीकृत प्रवेश बिंदु के रूप में कार्य करता है, और नई दर-सीमित सुविधा AI ट्रैफ़िक पर सूक्ष्म-नियंत्रण सक्षम बनाती है। प्रशासक प्रति क्लाइंट या API अधिकतम अनुरोध दरों को परिभाषित करने के लिए नीतियाँ निर्धारित कर सकते हैं, जिससे उचित उपयोग और सिस्टम स्थिरता सुनिश्चित होती है। यह विशेष रूप से उन उद्यमों के लिए उपयोगी है जो कई AI अनुप्रयोगों को तैनात करते हैं और संसाधनों को कुशलतापूर्वक आवंटित करने की आवश्यकता होती है। यह सुविधा AI वर्कलोड के लिए मजबूत बुनियादी ढांचा प्रदान करने की AWS की व्यापक AI रणनीति का हिस्सा है।