Comment le profil neuronal de VK fonctionne dans les recommandations

VK AI a développé un profil utilisateur neuronal qui forme une représentation unifiée des intérêts d'un utilisateur à partir de toutes les interactions à travers les services VK. Le cœur est un modèle de transformateur analysant jusqu'à 1 024 actions récentes comme une séquence, en utilisant une architecture à deux tours : une tour utilisateur avec auto-attention et une tour d'éléments encodant le contenu. Les jetons combinent des plongements de contenu provenant de modèles multimodaux, des plongements d'événements et des plongements de source, avec le temps encodé via Time2Vec. La formation implique un pré-entraînement avec Sampled Softmax sur des signaux implicites et un ajustement fin avec des sessions causales pour éviter les fuites de données. Le modèle inter-domaines 'Heimdall' équilibre les données entre les domaines et prédit le prochain objet de contenu, améliorant ainsi les recommandations. Les tests A/B montrent une augmentation de 5,5 % du temps de visionnage dans VK Clips et +1,1 % du temps de visionnage total (TVT) sur la page principale de VK Video.