768 आयामों में विनी-द-पूह: YDB पर Codex Pets के लिए सिमेंटिक खोज
Яндекс
एक डेवलपर ने YDB में संग्रहीत एम्बेडिंग का उपयोग करके Codex Pets कैटलॉग के लिए सिमेंटिक खोज बनाई। सिस्टम लेक्सिकल, टेक्स्टुअल सिमेंटिक और विज़ुअल सिमेंटिक रैंकिंग को जोड़ता है। परीक्षणों से पता चलता है कि अकेले लेक्सिकल खोज की तुलना में NDCG और Recall मेट्रिक्स में सुधार हुआ है।
Codex Pets कैटलॉग में 153 स्वीकृत एनिमेटेड पालतू जानवर हैं जो एआई एजेंटों के साथ होते हैं। जैसे-जैसे कैटलॉग बढ़ता गया, टैग-आधारित खोज अव्यावहारिक हो गई, जो दिखावट के आधार पर वर्णित पालतू जानवरों को खोजने में विफल रही, न कि सटीक टैग के आधार पर। लेखक ने सिमेंटिक खोज लागू की: टेक्स्ट फ़ील्ड (नाम, विवरण, टैग) को 768-आयामी वैक्टर में एन्कोड किया गया है, और एक मल्टीमॉडल मॉडल चयनित चार एनीमेशन फ़्रेमों के लिए कैप्शन उत्पन्न करता है जो वेक्टराइज़ भी किए जाते हैं। YDB वैक्टर संग्रहीत करता है और Knn::CosineSimilarity के माध्यम से कोसाइन समानता की गणना करता है। एम्बेडिंग, कैप्शन, अनुशंसाओं और संस्करण को संभालने के लिए चार नई तालिकाएँ जोड़ी गईं। खोज तीन रैंक की गई सूचियों को Weighted Reciprocal Rank Fusion का उपयोग करके विलय करती है, जिसमें लेक्सिकल और टेक्स्टुअल वेट 1 और ट्यून किया गया विज़ुअल वेट होता है। विज़ुअल शाखा स्वतंत्र रूप से विफल हो सकती है, लेक्सिकल परिणामों पर वापस गिरते हुए। परीक्षण से पता चला कि सिमेंटिक खोज NDCG@5 को 0.539 से 0.724 और Recall@5 को 0.528 से 0.743 तक सुधारती है, पूर्ण सेट के 14 क्वेरी पर।
स्रोत: Habr — хаб ML —
मूल
