くまのプーさん、768次元へ:YDB 上の Codex Pets 向けセマンティック検索
Яндекс
開発者が YDB に保存した埋め込みベクトルを用いて、Codex Pets のカタログ向けにセマンティック検索を構築しました。このシステムは、語彙的検索、テキストの意味的検索、視覚的な意味的検索のランキングを組み合わせています。テストでは、語彙的検索のみの場合と比較して、NDCG と Recall の指標が改善されました。
Codex Petsカタログには、AIエージェントに付き添う153種類の承認済みアニメーションペットが含まれています。カタログが成長するにつれて、タグベースの検索は非現実的になり、正確なタグではなく外観で説明されるペットを見つけることができなくなりました。著者はセマンティック検索を実装しました。テキストフィールド(名前、説明、タグ)は768次元ベクトルにエンコードされ、マルチモーダルモデルが選択された4つのアニメーションフレームのキャプションを生成し、それもベクトル化されます。YDBはベクトルを保存し、Knn::CosineSimilarityを介してコサイン類似度を計算します。エンベディング、キャプション、レコメンデーション、バージョニングを処理するために4つの新しいテーブルが追加されました。検索は重み付き相互ランク融合(Weighted Reciprocal Rank Fusion)を使用して3つのランキングリストを統合し、語彙的およびテキスト的な重みは1、視覚的な重みは調整済みです。視覚ブランチは独立して失敗する可能性があり、語彙的な結果にフォールバックします。テストでは、セマンティック検索により、14のクエリの完全なセットでNDCG@5が0.539から0.724に、Recall@5が0.528から0.743に改善されました。
出典: Habr — хаб ML —
原文
