Alibaba Cloud: el chip Zhenwu M890 se adapta a Qwen3.8, el modelo se despliega en Bailian para inferencia
Alibaba/Qwen
Alibaba Cloud anunció que su chip supernodo Zhenwu M890 ha adaptado con éxito el modelo Qwen3.8, permitiendo la inferencia en la plataforma Bailian. El Zhenwu M890 es un chip de inteligencia artificial de nueva generación de T-Head, que soporta precisión de FP32 a FP4 y logra una interconexión de 800 GB/s a través de ICN Switch 1.0, permitiendo que una sola instancia ejecute un modelo de 2,4 billones de parámetros.
Alibaba Cloud anunció el 23 de julio que el chip supernodo Zhenwu M890 ha adaptado con éxito Qwen3.8, el modelo insignia de Alibaba con 2,4 billones de parámetros, y ahora ofrece servicios de inferencia en la plataforma Bailian. Esto marca la primera vez que un supernodo chino ejecuta un modelo que supera los 2 billones de parámetros. El Zhenwu M890, desarrollado por T-Head, es un chip de inteligencia artificial de nueva generación que admite precisiones de datos desde FP32 hasta FP4, adecuado para entrenamiento de alta precisión e inferencia de baja precisión. A través de ICN Switch 1.0, 64 chips Zhenwu M890 logran una interconexión de 800 GB/s, proporcionando 9 TB de memoria de video y habilitando paralelismo de expertos para grandes modelos de mezcla de expertos (MoE, por sus siglas en inglés). Alibaba también optimizó la pila completa desde el chip hasta la nube para Qwen3.8, mejorando la eficiencia de inferencia hasta 1,5 veces en escenarios agentivos.
Fuente: QbitAI 量子位 —
original
