Öneri Sistemleri Benzerlikten Kullanıcı Niyetini Tahmin Etmeye Geçiyor

2 Ağustos'ta Moskova'da MTS True Tech ve VTB tarafından düzenlenen Urban ML konferansında uzmanlar, öneri sistemlerinin nasıl geliştiğini tartıştı. Geleneksel olarak işbirlikçi filtreleme ve benzer kullanıcıları bulmaya dayanan bu sistemler, artık kullanıcı davranışını tahmin etmeyi ve belirli eylemlerin olasılıklarına odaklanmayı hedefliyor. MWS'den Danil Bugrienko, geliştiricilerin kullanıcı tercihlerini belirlemek yerine açma, izleme veya satın alma gibi eylemleri tahmin eden algoritmalar oluşturduğunu belirtti. Ancak soğuk başlangıç sorunu hâlâ çözülmüş değil; yeni kullanıcılar ve ürünler etkileşim geçmişine sahip değil. Gerçek zamanlı öneriler, ilk tıklamaları bile analiz ederek ve toplu izleyici davranışını kullanarak bu konuda yardımcı oluyor. MWS öneri platformu geliştirme başkanı Sergey Kuznetsov, büyük dil modellerini (LLM) kullanmanın zorluklarını vurguladı: gecikme süresi (200-300 ms idealdir, ancak LLM'ler saniyeler alır), pahalı GPU'lar nedeniyle maliyet ve güvenilirlik sorunları. Üç uygulanabilir LLM kullanım senaryosu sunuldu: gömme vektörleriyle çevrim dışı özellik zenginleştirme, soğuk başlangıcı ele almak için çevrim dışı aday oluşturma ve LLM'nin bir aracı olarak hareket ettiği çevrim içi diyalog senaryoları. MWS, diyalog senaryoları için Gemma'yı seçti; saniye başına daha fazla istek (RPS) işlemek için hız ve maliyetten ödün vererek kaliteyi bir miktar düşürdü. Başarı için temel metrikler arasında kullanıcı tutma, yapışkanlık faktörü ve destek biletlerindeki azalma yer alıyor, ancak sonuçta her şey parayla ilgili. LLM benimsenmesi genellikle bir inanç sıçraması gerektirir çünkü ekonomik açıdan hemen kârlı olmayabilir, ancak maliyetlerin düşmesi bekleniyor. Sektör, kullanıcılarla sohbet eden ve anlık niyetlerini anlayan sistemlere doğru ilerliyor; başarı, kullanıcının zamanından ne kadar tasarruf ettikleriyle ölçülüyor.