Sistemas de Recomendação Mudam de Similaridade para Previsão de Intenção do Usuário

Na conferência Urban ML, realizada em 2 de agosto em Moscou pela MTS True Tech e VTB, especialistas discutiram como os sistemas de recomendação estão evoluindo. Tradicionalmente baseados em filtragem colaborativa e na busca por usuários semelhantes, agora eles visam prever o comportamento do usuário, focando em probabilidades de ações específicas. Danil Bugrienko, da MWS, observou que, em vez de determinar as preferências do usuário, os desenvolvedores agora criam algoritmos que preveem ações como abrir, assistir ou comprar. No entanto, o problema do arranque a frio (cold start) permanece sem solução; novos usuários e itens não têm histórico de interações. Recomendações em tempo real ajudam, analisando até mesmo os primeiros cliques e usando o comportamento agregado do público. Sergey Kuznetsov, chefe de desenvolvimento da plataforma de recomendação da MWS, destacou desafios com o uso de LLMs (modelos de linguagem de grande escala): latência (deseja-se 200-300 ms, mas LLMs levam segundos), custo devido a GPUs caras e problemas de confiabilidade. Três casos de uso viáveis de LLM foram apresentados: enriquecimento de recursos offline com embeddings, geração de candidatos offline para lidar com o arranque a frio e cenários conversacionais online, onde o LLM atua como agente. A MWS escolheu a Gemma para cenários conversacionais, trocando um pouco de qualidade por velocidade e custo para lidar com mais consultas por segundo (RPS). As principais métricas de sucesso incluem retenção, fator de aderência e redução de chamados de suporte, mas, em última análise, trata-se de dinheiro. A adoção de LLMs muitas vezes exige um salto de fé, pois a economia pode não funcionar imediatamente, mas espera-se que os custos diminuam. A indústria está se movendo em direção a sistemas que conversam com os usuários e entendem suas intenções imediatas, avaliando o sucesso pela forma como economizam o tempo do usuário.