Cara Kerja Profil Pengguna Neural VK dalam Rekomendasi

VK AI telah mengembangkan profil pengguna neural yang membentuk representasi terpadu dari minat pengguna dari semua interaksi di seluruh layanan VK. Intinya adalah model transformer yang menganalisis hingga 1.024 tindakan terbaru sebagai sebuah urutan, menggunakan arsitektur dua menara: menara pengguna dengan self-attention dan menara item yang mengodekan konten. Token menggabungkan embedding konten dari model multimodal, embedding peristiwa, dan embedding sumber, dengan waktu yang diodekan melalui Time2Vec. Pelatihan melibatkan pra-pelatihan dengan Sampled Softmax pada sinyal implisit dan penyesuaian halus dengan sesi kausal untuk menghindari kebocoran data. Model lintas domain 'Heimdall' menyeimbangkan data di berbagai domain dan memprediksi objek konten berikutnya, meningkatkan rekomendasi. Uji A/B menunjukkan peningkatan 5,5% dalam waktu tonton di VK Clips dan +1,1% TVT di halaman utama VK Video.