Alibaba lanzó la serie Qwen3 Embedding para incrustación y clasificación de texto

Alibaba ha lanzado la serie Qwen3 Embedding — nuevos modelos propietarios de la familia Qwen, diseñados para incrustación de texto, búsqueda y clasificación. Los modelos se basan en el modelo fundacional Qwen3, que les proporciona capacidades multilingües. La serie incluye tres tamaños de modelos de incrustación (0.6B, 4B, 8B) y tres modelos de clasificación (0.6B, 4B, 8B). Los modelos de incrustación admiten dimensiones de vector personalizadas (aprendizaje de representación Matryoshka, MRL, por sus siglas en inglés) e instrucciones. Los modelos se publican en código abierto bajo la licencia Apache 2.0 en Hugging Face y ModelScope; el informe técnico y el código se publican en GitHub. La arquitectura de los modelos de incrustación es de doble codificador, y la de los modelos de clasificación es de codificador cruzado. El entrenamiento se realizó en varias etapas: para los modelos de incrustación, preentrenamiento contrastivo con datos débilmente etiquetados, seguido de entrenamiento con datos etiquetados de alta calidad y fusión de modelos; para los modelos de clasificación, entrenamiento directo con datos etiquetados. La capacidad generativa de Qwen3 se utilizó para generar pares débilmente etiquetados durante la fase de preentrenamiento. En el futuro, Alibaba planea mejorar la eficiencia del entrenamiento y la implementación, así como ampliar la familia a representaciones multimodales.