Amazon Bedrock ने मॉडल माइग्रेशन और प्रॉम्प्ट ट्यूनिंग के लिए उन्नत प्रॉम्प्ट ऑप्टिमाइज़ेशन पेश किया
Anthropic
Amazon/AWS
Amazon Bedrock ने उन्नत प्रॉम्प्ट ऑप्टिमाइज़ेशन लॉन्च किया है, जो एक साथ पाँच मॉडलों के लिए स्वचालित रूप से प्रॉम्प्ट को ऑप्टिमाइज़ करता है, दिनों की मैनुअल पुनरावृत्ति को मीट्रिक्स-संचालित वर्कफ़्लो से बदलता है। यह मल्टीमॉडल इनपुट, तीन मूल्यांकन मोड (Lambda, LLM-as-a-Judge, स्टीयरिंग क्राइटेरिया) का समर्थन करता है, और गुणवत्ता, विलंबता और लागत की साथ-साथ तुलना प्रदान करता है।
Amazon Bedrock ने Advanced Prompt Optimization पेश किया है, जो कई मॉडलों में प्रॉम्प्ट के माइग्रेशन और ऑप्टिमाइज़ेशन को स्वचालित करने के लिए डिज़ाइन किया गया एक नया टूल है। इस टूल द्वारा हल की जाने वाली समस्या यह है कि किसी नए, तेज़ या सस्ते मॉडल पर जाने पर प्रॉम्प्ट को फिर से ट्यून करने में मैन्युअल प्रयास लगता है—एक ऐसी प्रक्रिया जिसमें दिनों या हफ्तों का समय लग सकता है। यह टूल रीइन्फ़ोर्समेंट लर्निंग-शैली फ़ीडबैक लूप का उपयोग करता है: यह उपयोगकर्ता-परिभाषित मीट्रिक के विरुद्ध प्रतिक्रियाओं का मूल्यांकन करता है, प्रॉम्प्ट को फिर से लिखता है, और इष्टतम होने तक पुनरावृत्ति करता है। यह एक ही जॉब में पाँच मॉडलों तक के साथ काम करता है और मल्टीमॉडल इनपुट (इमेज, पीडीएफ़) का समर्थन करता है। तीन मूल्यांकन मोड उपलब्ध हैं: ठोस मीट्रिक के लिए एक कस्टम AWS Lambda फ़ंक्शन, ओपन-एंडेड कार्यों के लिए रूब्रिक के साथ LLM-as-a-Judge, और ब्रांड वॉयस या सेफ़्टी बाधाओं के लिए स्टीयरिंग मापदंड। उपयोगकर्ता या तो बेसलाइन मॉडल से चार कैंडिडेट्स तक माइग्रेट कर सकते हैं, या उसी मॉडल पर प्रॉम्प्ट में सुधार कर सकते हैं। आउटपुट में ऑप्टिमाइज़्ड प्रॉम्प्ट, मूल्यांकन स्कोर, टाइम-टू-फ़र्स्ट-टोकन (TTFT) और लागत अनुमान शामिल हैं। यह टूल AWS कंसोल, API, या SDK (boto3) के माध्यम से सुलभ है। प्रति-जॉब सीमाएँ: 10 प्रॉम्प्ट टेम्पलेट, प्रति टेम्पलेट 100 मूल्यांकन नमूने, 5 मॉडल, प्रति टेम्पलेट 20 टेक्स्ट वेरिएबल, प्रति नमूना 100 मल्टीमॉडल फ़ाइलें, और प्रति टेम्पलेट 5 स्टीयरिंग मापदंड। उपलब्ध जज मॉडल में Claude Opus 4, Claude Sonnet 4.5 और Claude Sonnet 4.6 शामिल हैं।
स्रोत: AWS ML blog —
मूल
