Sistem Rekomendasi Beralih dari Kemiripan ke Prediksi Niat Pengguna

Pada konferensi Urban ML yang diadakan pada 2 Agustus di Moskow oleh MTS True Tech dan VTB, para ahli membahas bagaimana sistem rekomendasi berkembang. Secara tradisional didasarkan pada penyaringan kolaboratif dan menemukan pengguna yang mirip, kini mereka bertujuan untuk memprediksi perilaku pengguna, dengan fokus pada probabilitas tindakan tertentu. Danil Bugrienko dari MWS mencatat bahwa alih-alih menentukan preferensi pengguna, pengembang kini membuat algoritma yang meramalkan tindakan seperti membuka, menonton, atau membeli. Namun, masalah cold start tetap belum terpecahkan; pengguna dan item baru tidak memiliki riwayat interaksi. Rekomendasi real-time membantu, menganalisis bahkan klik awal, dan menggunakan perilaku audiens secara agregat. Sergey Kuznetsov, kepala pengembangan platform rekomendasi MWS, menyoroti tantangan dalam menggunakan LLM: latensi (200-300 ms diinginkan, tetapi LLM membutuhkan waktu detik), biaya karena GPU yang mahal, dan masalah keandalan. Tiga kasus penggunaan LLM yang layak disajikan: pengayaan fitur offline dengan embedding, pembuatan kandidat offline untuk mengatasi cold start, dan skenario percakapan online di mana LLM bertindak sebagai agen. MWS memilih Gemma untuk skenario percakapan, mengorbankan sebagian kualitas demi kecepatan dan biaya untuk menangani lebih banyak permintaan per detik (RPS). Metrik kunci untuk kesuksesan termasuk retensi, faktor ketergantungan, dan pengurangan tiket dukungan, tetapi pada akhirnya ini tentang uang. Adopsi LLM sering membutuhkan lompatan keyakinan karena ekonomi mungkin tidak langsung berhasil, tetapi biaya diharapkan menurun. Industri bergerak menuju sistem yang berbicara dengan pengguna dan memahami niat langsung mereka, mengevaluasi kesuksesan berdasarkan seberapa baik mereka menghemat waktu pengguna.