추천 시스템, 유사성에서 사용자 의도 예측으로 전환

8월 2일 모스크바에서 MTS True Tech와 VTB가 주최한 Urban ML 콘퍼런스에서 전문가들은 추천 시스템의 진화 방향을 논의했다. 전통적으로 협업 필터링(collaborative filtering)과 유사 사용자 탐색에 기반했던 추천 시스템은 이제 특정 행동이 일어날 확률에 초점을 맞춰 사용자 행동 자체를 예측하는 방향으로 나아가고 있다. MWS의 다닐 부그리엔코(Danil Bugrienko)는 이제 개발자들이 사용자의 선호도를 파악하는 대신, 열람, 시청, 구매 등 특정 행동을 예측하는 알고리즘을 만들고 있다고 설명했다. 다만 콜드 스타트(cold start) 문제, 즉 신규 사용자와 신규 아이템에 상호작용 기록이 없다는 문제는 여전히 해결되지 않았다. 실시간 추천은 초기 클릭조차 분석하고 전체 사용자층의 집단적 행동 데이터를 활용함으로써 이 문제를 완화하는 데 도움을 준다. MWS 추천 플랫폼 개발 책임자인 세르게이 쿠즈네초프(Sergey Kuznetsov)는 대형 언어 모델(LLM, Large Language Model) 활용 시의 어려움으로 지연 시간(원하는 수준은 200~300밀리초이지만 LLM은 초 단위가 걸림), 값비싼 GPU로 인한 비용 문제, 그리고 신뢰성 문제를 꼽았다. 이날 발표에서는 실제로 활용 가능한 세 가지 LLM 사용 사례가 제시됐다. 임베딩을 활용한 오프라인 특성(feature) 보강, 콜드 스타트 문제 해결을 위한 오프라인 후보 생성, 그리고 LLM이 에이전트 역할을 하는 온라인 대화형 시나리오가 그것이다. MWS는 대화형 시나리오를 위해 Gemma를 선택했는데, 이는 초당 처리 가능한 요청 수(RPS, Requests Per Second)를 늘리기 위해 속도와 비용을 우선시하고 품질을 일부 희생한 선택이었다. 성공을 가늠하는 핵심 지표로는 리텐션(retention), 고착도(stickiness factor), 그리고 고객 지원 문의 감소가 있지만, 결국 관건은 수익성이다. LLM 도입은 경제성이 당장 맞아떨어지지 않을 수 있기 때문에 일종의 믿음의 도약이 필요한 경우가 많지만, 비용은 앞으로 낮아질 것으로 예상된다. 업계는 사용자와 대화하며 그들의 즉각적인 의도를 이해하는 시스템으로 나아가고 있으며, 성공 여부는 사용자의 시간을 얼마나 절약해주는지로 평가받고 있다.