Näin VK:n neuroprofiili toimii suosituksissa

VK AI on kehittänyt neurokäyttäjäprofiilin, joka muodostaa yhtenäisen kuvan käyttäjän kiinnostuksenkohteista kaikista vuorovaikutuksista VK:n palveluissa. Ydin on transformeri-malli, joka analysoi enintään 1 024 viimeisintä toimintoa sekvenssinä ja käyttää kaksitornista arkkitehtuuria: käyttäjätorni, jossa on itsehuomio, ja sisältötorni, joka koodaa sisällön. Tokenit yhdistävät multimodaalisten mallien sisältöupotukset, tapahtumaupotukset ja lähdeupotukset, ja aika koodataan Time2Vec-menetelmällä. Koulutus sisältää esikoulutuksen Sampled Softmax -menetelmällä implisiittisille signaaleille ja hienosäädön kausaalisilla istunnoilla tietovuotojen välttämiseksi. Ristiindomainen malli 'Heimdall' tasapainottaa dataa eri toimialueiden välillä ja ennustaa seuraavan sisältöobjektin, mikä parantaa suosituksia. A/B-testit osoittavat 5,5 prosentin kasvun katseluajassa VK Clipsissä ja +1,1 prosentin TVT:ssä VK Video:n etusivulla.