स्बेर ने AI प्रतिक्रियाओं में त्रुटियों का पता लगाने के लिए SIRIN लाइब्रेरी तक पहुंच खोली

सबरबैंक के सेंटर फॉर प्रैक्टिकल आर्टिफिशियल इंटेलिजेंस की वैज्ञानिकों की टीम ने SIRIN (सिमेंटिक इंकंसिस्टेंसी रिकग्निशन एंड इंस्पेक्शन नेक्सस) लाइब्रेरी को ओपन सोर्स के रूप में प्रकाशित किया है। SIRIN एआई एजेंटों और भाषा मॉडलों को अधिक विश्वसनीय बनाने में मदद करता है, जिससे गढ़े गए तथ्यों या उन तथ्यों की पहचान होती है जो स्रोत डेटा द्वारा समर्थित नहीं हैं। यह लाइब्रेरी विभिन्न प्रतिक्रिया सत्यापन विधियों को एकीकृत करती है, जिससे डेवलपर्स अपने कार्यों के लिए सबसे उपयुक्त दृष्टिकोण की तुलना, संयोजन और चयन कर सकते हैं। यह पूरे प्रतिक्रियाओं या व्यक्तिगत पाठ अंशों की जांच कर सकता है और यह बता सकता है कि मॉडल ने कहां त्रुटि की हो सकती है। इसके अतिरिक्त, SIRIN पहले से आकलन कर सकता है कि एआई एजेंट के पास उत्तर देने के लिए पर्याप्त जानकारी है या नहीं, जिससे अधिक डेटा का अनुरोध करके या उत्तर देने से इनकार करके त्रुटियों को रोकने में मदद मिलती है। यह लाइब्रेरी सबर के भ्रम (हैल्युसिनेशन) का पता लगाने के शोध पर आधारित है, विशेष रूप से मेटामॉडल पर जो केवल 250 प्रशिक्षण उदाहरणों का उपयोग करके त्रुटि पहचान सटीकता में लगभग 30% सुधार करते हैं। सबरबैंक में वरिष्ठ प्रबंध निदेशक और एआई ट्रांसफॉर्मेशन के निदेशक सर्गेई रयाबोव ने कहा कि यह दृष्टिकोण आंतरिक रूप से प्रभावी साबित हुआ है और अब बाजार के विकास को बढ़ावा देने के लिए सभी कंपनियों के लिए खुला है। डेवलपर्स SIRIN को मिनटों में अपने सहायकों में एकीकृत कर सकते हैं, और यह बड़े भाषा मॉडल लागू करने वाले व्यवसायों के साथ-साथ एआई सहायकों, RAG सिस्टम और एआई एजेंटों के डेवलपर्स के लिए उपयोगी है। यह लाइब्रेरी GitVerse, GitHub पर उपलब्ध है, और Hugging Face पर एक वेब डेमो भी है।