Alibaba ra mắt dòng Qwen3 Embedding cho nhúng và xếp hạng văn bản

Alibaba đã phát hành dòng sản phẩm Qwen3 Embedding — các mô hình độc quyền mới của gia đình Qwen, được thiết kế cho việc nhúng văn bản, tìm kiếm và xếp hạng. Các mô hình này dựa trên nền tảng Qwen3, mang lại khả năng đa ngôn ngữ. Dòng sản phẩm bao gồm ba kích thước mô hình nhúng (0,6B, 4B, 8B) và ba mô hình xếp hạng (0,6B, 4B, 8B). Các mô hình nhúng hỗ trợ kích thước vector tùy chỉnh (Học biểu diễn Matryoshka, MRL) và hướng dẫn. Các mô hình được phát hành mã nguồn mở theo giấy phép Apache 2.0 trên Hugging Face và ModelScope; báo cáo kỹ thuật và mã nguồn được công bố trên GitHub. Kiến trúc của các mô hình nhúng là bộ mã hóa kép, còn các mô hình xếp hạng là bộ mã hóa chéo. Quá trình huấn luyện diễn ra qua nhiều giai đoạn: đối với các mô hình nhúng — tiền huấn luyện đối chiếu trên dữ liệu có nhãn yếu, sau đó huấn luyện trên dữ liệu có nhãn chất lượng cao và hợp nhất mô hình; đối với các mô hình xếp hạng — huấn luyện trực tiếp trên dữ liệu có nhãn. Khả năng sinh văn bản của Qwen3 được sử dụng để tạo ra các cặp có nhãn yếu trong giai đoạn tiền huấn luyện. Trong tương lai, Alibaba có kế hoạch cải thiện hiệu quả huấn luyện và triển khai, cũng như mở rộng dòng sản phẩm sang các biểu diễn đa phương thức.