एलिबाबा ने टेक्स्ट एम्बेडिंग और रैंकिंग के लिए Qwen3 एम्बेडिंग सीरीज़ जारी की

Alibaba ने Qwen3 एम्बेडिंग सीरीज़ जारी की है — Qwen परिवार के नए मालिकाना मॉडल, जो टेक्स्ट एम्बेडिंग, सर्च और रैंकिंग के लिए डिज़ाइन किए गए हैं। ये मॉडल मूलभूत Qwen3 मॉडल पर आधारित हैं, जो उन्हें बहुभाषी क्षमताएं प्रदान करता है। इस सीरीज़ में एम्बेडिंग मॉडल के तीन आकार (0.6B, 4B, 8B) और तीन रैंकिंग मॉडल (0.6B, 4B, 8B) शामिल हैं। एम्बेडिंग मॉडल कस्टम वेक्टर आयाम (Matryoshka Representation Learning, MRL) और निर्देशों को सपोर्ट करते हैं। ये मॉडल Apache 2.0 लाइसेंस के तहत Hugging Face और ModelScope पर ओपन-सोर्स किए गए हैं; तकनीकी रिपोर्ट और कोड GitHub पर प्रकाशित हैं। एम्बेडिंग मॉडल की आर्किटेक्चर डुअल-एनकोडर है, और रैंकिंग मॉडल की क्रॉस-एनकोडर है। प्रशिक्षण कई चरणों में किया गया: एम्बेडिंग मॉडल के लिए — कमजोर लेबल वाले डेटा पर कंट्रास्टिव प्री-ट्रेनिंग, उसके बाद उच्च गुणवत्ता वाले लेबल डेटा पर प्रशिक्षण और मॉडल मर्जिंग; रैंकिंग मॉडल के लिए — लेबल डेटा पर सीधा प्रशिक्षण। प्री-ट्रेनिंग चरण के दौरान कमजोर लेबल वाले जोड़े उत्पन्न करने के लिए Qwen3 की जनरेटिव क्षमता का उपयोग किया गया। भविष्य में, Alibaba प्रशिक्षण और डिप्लॉयमेंट दक्षता में सुधार करने के साथ-साथ परिवार को मल्टीमॉडल रिप्रेजेंटेशन तक विस्तारित करने की योजना बना रहा है।