वीके का न्यूरल यूज़र प्रोफ़ाइल रिकमेंडेशन में कैसे काम करता है

VK AI ने एक न्यूरल यूज़र प्रोफ़ाइल विकसित की है जो VK सेवाओं में सभी इंटरैक्शन से उपयोगकर्ता की रुचियों का एक एकीकृत प्रतिनिधित्व बनाती है। इसका मूल एक ट्रांसफॉर्मर मॉडल है जो 1,024 हाल की गतिविधियों का एक अनुक्रम के रूप में विश्लेषण करता है, जिसमें दो-टॉवर वास्तुकला का उपयोग किया गया है: एक यूज़र टॉवर जिसमें सेल्फ-अटेंशन है और एक आइटम टॉवर जो सामग्री को एनकोड करता है। टोकन मल्टीमॉडल मॉडल से सामग्री एम्बेडिंग, इवेंट एम्बेडिंग और स्रोत एम्बेडिंग को जोड़ते हैं, समय को Time2Vec के माध्यम से एनकोड किया जाता है। प्रशिक्षण में अंतर्निहित संकेतों पर सैंपल्ड सॉफ्टमैक्स के साथ प्री-ट्रेनिंग और डेटा लीकेज से बचने के लिए कारणात्मक सत्रों के साथ फाइन-ट्यूनिंग शामिल है। क्रॉस-डोमेन मॉडल 'हीमडॉल' विभिन्न डोमेन में डेटा को संतुलित करता है और अगली सामग्री वस्तु की भविष्यवाणी करता है, जिससे अनुशंसाओं में सुधार होता है। A/B परीक्षणों से VK क्लिप्स में देखने के समय में 5.5% की वृद्धि और VK वीडियो के मुख्य पृष्ठ पर +1.1% टीवीटी की वृद्धि देखी गई है।