Empfehlungssysteme: Wandel von Ähnlichkeit zur Vorhersage von Nutzerabsichten

Auf der Urban ML-Konferenz, die am 2. August in Moskau von MTS True Tech und VTB stattfand, diskutierten Experten, wie sich Empfehlungssysteme entwickeln. Traditionell basierten sie auf Collaborative Filtering und der Suche nach ähnlichen Nutzern, doch nun zielen sie darauf ab, das Nutzerverhalten vorherzusagen, wobei der Fokus auf Wahrscheinlichkeiten für bestimmte Aktionen liegt. Danil Bugrienko von MWS merkte an, dass Entwickler anstatt Nutzerpräferenzen zu bestimmen, nun Algorithmen erstellen, die Aktionen wie Öffnen, Anschauen oder Kaufen prognostizieren. Das Cold-Start-Problem bleibt jedoch ungelöst; neue Nutzer und Artikel haben keine Interaktionshistorie. Echtzeit-Empfehlungen helfen, indem sie bereits erste Klicks analysieren und das aggregierte Verhalten der Zielgruppe nutzen. Sergey Kuznetsov, Leiter der Entwicklung der Empfehlungsplattform bei MWS, hob Herausforderungen beim Einsatz von LLMs hervor: Latenz (200-300 ms sind erwünscht, aber LLMs benötigen Sekunden), Kosten durch teure GPUs und Zuverlässigkeitsprobleme. Es wurden drei praktikable Anwendungsfälle für LLMs vorgestellt: Offline-Feature-Anreicherung mit Embeddings, Offline-Kandidatengenerierung zur Bewältigung des Cold-Start-Problems und Online-Konversationsszenarien, in denen das LLM als Agent fungiert. MWS entschied sich für Gemma bei Konversationsszenarien, wobei man etwas Qualität für Geschwindigkeit und Kosteneffizienz opfert, um mehr Anfragen pro Sekunde (RPS) zu verarbeiten. Zu den wichtigsten Erfolgskennzahlen gehören Retention, der Klebfaktor und die Reduzierung von Support-Tickets, aber letztendlich geht es um Geld. Die Einführung von LLMs erfordert oft einen Vertrauensvorschuss, da die Wirtschaftlichkeit nicht sofort gegeben sein kann, aber es wird erwartet, dass die Kosten sinken. Die Branche bewegt sich hin zu Systemen, die mit Nutzern konversieren und deren unmittelbare Absichten verstehen, wobei der Erfolg daran gemessen wird, wie gut sie Zeit sparen.