Hệ thống gợi ý chuyển từ tương đồng sang dự đoán ý định người dùng

Tại hội nghị Urban ML, diễn ra ngày 2 tháng 8 tại Moscow do MTS True Tech và VTB tổ chức, các chuyên gia đã thảo luận về cách các hệ thống gợi ý (recommendation systems) đang phát triển. Trước đây dựa trên phương pháp lọc cộng tác (collaborative filtering) và tìm kiếm người dùng tương tự, giờ đây các hệ thống này hướng tới việc dự đoán hành vi người dùng, tập trung vào xác suất xảy ra các hành động cụ thể. Danil Bugrienko từ MWS cho biết thay vì xác định sở thích của người dùng, các nhà phát triển hiện nay xây dựng các thuật toán dự báo hành động như mở, xem hoặc mua. Tuy nhiên, vấn đề khởi động lạnh (cold start) vẫn chưa được giải quyết triệt để; người dùng mới và sản phẩm mới thiếu lịch sử tương tác. Các gợi ý theo thời gian thực có thể giúp giải quyết phần nào, bằng cách phân tích ngay cả những lượt click đầu tiên và sử dụng hành vi tổng hợp của đối tượng người dùng. Sergey Kuznetsov, trưởng nhóm phát triển nền tảng gợi ý của MWS, nhấn mạnh những thách thức khi sử dụng các mô hình ngôn ngữ lớn (Large Language Model - LLM): độ trễ (mong muốn ở mức 200-300 ms, nhưng LLM lại cần vài giây), chi phí cao do phải sử dụng GPU đắt đỏ, và các vấn đề về độ tin cậy. Ba trường hợp sử dụng LLM khả thi đã được trình bày: làm giàu đặc trưng (feature enrichment) ngoại tuyến bằng embedding, tạo ứng viên (candidate generation) ngoại tuyến để giải quyết vấn đề khởi động lạnh, và các kịch bản đối thoại trực tuyến trong đó LLM đóng vai trò như một tác nhân (agent). MWS đã chọn Gemma cho các kịch bản đối thoại, đánh đổi một phần chất lượng để đạt tốc độ và chi phí tốt hơn, nhằm xử lý được nhiều truy vấn hơn mỗi giây (requests per second - RPS). Các chỉ số quan trọng để đánh giá thành công bao gồm khả năng duy trì người dùng (retention), hệ số gắn kết (stickiness factor), và mức giảm số lượng yêu cầu hỗ trợ, nhưng cuối cùng, tất cả đều xoay quanh yếu tố tiền bạc. Việc áp dụng LLM thường đòi hỏi một bước nhảy niềm tin, vì bài toán kinh tế có thể chưa mang lại hiệu quả ngay lập tức, song chi phí được kỳ vọng sẽ giảm dần theo thời gian. Ngành công nghiệp này đang hướng tới các hệ thống có thể đối thoại với người dùng và hiểu được ý định tức thời của họ, đánh giá sự thành công dựa trên mức độ tiết kiệm thời gian mà hệ thống mang lại cho người dùng.