Alibaba、テキスト埋め込みとランキング向けQwen3 Embeddingシリーズを公開

アリババはQwen3 Embeddingシリーズを公開しました。これはQwenファミリーの新しい独自モデル群で、テキスト埋め込み、検索、ランキング向けに設計されています。これらのモデルは、多言語機能を提供する基盤モデルQwen3に基づいています。本シリーズには、3つのサイズの埋め込みモデル（0.6B、4B、8B）と3つのランキングモデル（0.6B、4B、8B）が含まれます。埋め込みモデルはカスタムベクトル次元（Matryoshka Representation Learning、略称MRL）とインストラクションをサポートします。モデルはHugging FaceとModelScopeでApache 2.0ライセンスのもとオープンソース化されており、テクニカルレポートとコードはGitHubで公開されています。埋め込みモデルのアーキテクチャはデュアルエンコーダー、ランキングモデルはクロスエンコーダーです。トレーニングは複数の段階で実施されました。埋め込みモデルについては、弱ラベルデータでの対照的事前学習、その後高品質ラベルデータでのトレーニングとモデルマージが行われました。ランキングモデルについては、ラベルデータでの直接トレーニングが行われました。事前学習段階では、弱ラベルペアの生成にQwen3の生成能力が活用されました。今後、アリババはトレーニングとデプロイの効率向上、ならびにマルチモーダル表現へのファミリー拡張を計画しています。