Amazon Bedrock ने OpenAI GPT-5.6 मॉडल्स के लिए एक्सप्लिसिट प्रॉम्प्ट कैशिंग पेश किया

OpenAIOpenAI Amazon Web ServicesAmazon Web Services
OpenAI GPT-5.6 Sol, Terra और Luna अब Amazon Bedrock पर सामान्य रूप से उपलब्ध हैं, जो तीन क्षमता स्तर प्रदान करते हैं। रिलीज़ में एक्सप्लिसिट प्रॉम्प्ट कैशिंग भी शामिल है, जो कैश किए गए इनपुट पर 90% छूट के साथ कैश किए गए प्रॉम्प्ट भागों पर सटीक नियंत्रण की अनुमति देता है।
Amazon Bedrock ने OpenAI GPT-5.6 मॉडल्स, जिनमें Sol, Terra और Luna शामिल हैं, की सामान्य उपलब्धता की घोषणा की है। ये मॉडल bedrock-mantle एंडपॉइंट पर OpenAI-संगत Responses API के माध्यम से सुलभ हैं। एक प्रमुख नई सुविधा स्पष्ट प्रॉम्प्ट कैशिंग है, जहाँ उपयोगकर्ता कैश सीमाएँ चिह्नित कर सकते हैं, कैश किए गए इनपुट पर 90% छूट मिलती है और यह 30 मिनट तक उपलब्ध रहता है। अंतर्निहित कैशिंग डिफ़ॉल्ट रूप से सक्षम है। GPT-5.6, न्यूनतम से अत्यधिक तक के रीजनिंग एफर्ट स्तर, फंक्शन कॉलिंग और संरचित JSON आउटपुट का समर्थन करता है। मॉडल AWS सुरक्षा और प्रशासन के साथ प्रति-टोकन मूल्य निर्धारण प्रदान करते हैं। GPT-5.6 Sol जटिल तर्क के लिए, Terra संतुलित कार्यभार के लिए और Luna उच्च-मात्रा वाले कार्यों के लिए डिज़ाइन किया गया है। स्पष्ट कैशिंग सुविधा बार-बार आने वाले सिस्टम निर्देशों और टूल परिभाषाओं वाले एजेंटिक वर्कफ़्लो के लिए विशेष रूप से लाभदायक है।
स्रोत: AWS ML blog — मूल
इस विषय पर हमारी पिछली पोस्ट ↓
ताज़ा समाचार