推薦システムの進化：類似性からユーザー意図の予測へ

8月2日、MTS True TechとVTBがモスクワで開催したUrban MLカンファレンスで、専門家たちはレコメンデーションシステムの進化について議論しました。従来は協調フィルタリングと類似ユーザーの発見に基づいていましたが、現在ではユーザーの行動を予測し、特定のアクションの確率に焦点を当てる方向に進化しています。MWSのDanil Bugrienko氏は、ユーザーの好みを決定する代わりに、開発者は開封、視聴、購入などの行動を予測するアルゴリズムを作成していると指摘しました。しかし、コールドスタート問題は未解決のままであり、新規ユーザーやアイテムにはインタラクション履歴がありません。リアルタイムレコメンデーションは、初期クリックの分析や集団的なオーディエンスの行動の活用に役立ちます。MWSのレコメンデーションプラットフォーム開発責任者であるSergey Kuznetsov氏は、大規模言語モデル（LLM）の使用における課題を強調しました。待ち時間（200〜300ミリ秒が望ましいが、LLMは数秒かかる）、高価なGPUによるコスト、そして信頼性の問題です。3つの実行可能なLLMのユースケースが提示されました。オフラインでの埋め込みによる特徴量生成、コールドスタートに対処するためのオフラインでの候補生成、そしてLLMがエージェントとして機能するオンラインの会話シナリオです。MWSは会話シナリオにGemmaを選択し、品質の一部を速度とコストと交換して、より多くの1秒あたりのクエリ数（RPS）を処理しています。成功の主要な指標には、リテンション、粘着係数、サポートチケットの削減が含まれますが、最終的には収益に結びつくかどうかです。LLMの採用は、経済性がすぐに成立しない可能性があるため、しばしば信頼の飛躍を必要としますが、コストは低下すると予想されています。業界はユーザーと会話し、彼らの即時の意図を理解するシステムへと移行しており、ユーザーの時間を節約できるかどうかで成功を評価しています。