Couchbase ने Amazon Bedrock के साथ Capella iQ के लिए मल्टी-मॉडल AI आर्किटेक्चर बनाया

CouchbaseCouchbase AnthropicAnthropic Amazon Web ServicesAmazon Web Services
Couchbase ने अपने Capella iQ डेवलपर असिस्टेंट के लिए Amazon Bedrock का उपयोग करते हुए एक मल्टी-मॉडल AI आर्किटेक्चर बनाया, जिसमें Anthropic के Claude Sonnet 4.5 मॉडल को एकीकृत किया गया है। यह आर्किटेक्चर कई फाउंडेशन मॉडल प्रदाताओं, क्रॉस-रीजन फेलओवर का समर्थन करता है, और आंतरिक बेंचमार्क पर लगभग 76% सटीकता प्राप्त करता है। इसे उच्च उपलब्धता के लिए दो AWS रीजन में तैनात किया गया है।
काउचबेस ने अपने Capella iQ AI असिस्टेंट को संचालित करने के लिए Amazon Bedrock को अपनाया है, जिसमें प्रारंभिक प्रोडक्शन मॉडल के रूप में Anthropic के Claude Sonnet 4.5 का उपयोग किया गया है। उच्च उपलब्धता के लिए आर्किटेक्चर को Amazon EKS पर दो AWS क्षेत्रों (us-east-1 और us-west-2) में होस्ट किया गया है, जिसमें Bedrock से निजी कनेक्टिविटी प्रदान करने वाला VPC इंटरफ़ेस एंडपॉइंट है। क्रॉस-रीजन इंटरफ़ेस फेलओवर और लोड वितरण के लिए स्वचालित रूप से अनुरोधों को इष्टतम अमेरिकी क्षेत्र में रूट करता है। टीम ने SQL++ जनरेशन, इंडेक्स अनुशंसाएं, क्वेरी स्पष्टीकरण और मल्टी-टर्न वार्तालापों को कवर करने वाले बेंचमार्क पर कई मॉडलों का मूल्यांकन किया, जिसमें Claude Sonnet 4.5 ने लगभग 76% सटीकता प्राप्त की। प्रदाता-अज्ञेय डिज़ाइन कोड बदलने के बिना कॉन्फ़िगरेशन के माध्यम से मॉडल में बदलाव की अनुमति देता है। भविष्य की योजनाओं में Bedrock के कस्टम मॉडल इंपोर्ट का उपयोग करके फाइन-ट्यून किए गए छोटे मॉडलों के माध्यम से लागत अनुकूलन शामिल है। प्रमुख चुनौतियों में क्रॉस-रीजन फेलओवर परीक्षण और मॉडल बेंचमार्किंग सामान्यीकरण शामिल थे।
स्रोत: AWS ML blog — मूल
इस विषय पर हमारी पिछली पोस्ट ↓
ताज़ा समाचार