Alibaba Cloud: Chip Zhenwu M890 thích ứng với Qwen3.8, mô hình chạy suy luận trên Bailian
Alibaba/Qwen
Alibaba Cloud thông báo chip siêu nút Zhenwu M890 đã thích ứng thành công với mô hình Qwen3.8, cho phép suy luận trên nền tảng Bailian. Zhenwu M890 là chip AI thế hệ mới từ T-Head, hỗ trợ độ chính xác từ FP32 đến FP4 và đạt băng thông kết nối 800GB/s qua ICN Switch 1.0, cho phép một phiên bản duy nhất chạy mô hình 2,4 nghìn tỷ tham số.
Ngày 23 tháng 7, Alibaba Cloud thông báo chip supernode Zhenwu M890 đã thích ứng thành công với Qwen3.8, mô hình chủ lực của Alibaba với 2,4 nghìn tỷ tham số, và hiện đang cung cấp dịch vụ suy luận trên nền tảng Bailian. Đây là lần đầu tiên một supernode Trung Quốc chạy mô hình vượt quá 2 nghìn tỷ tham số. Zhenwu M890 do T-Head phát triển là chip AI thế hệ mới hỗ trợ độ chính xác dữ liệu từ FP32 đến FP4, phù hợp cho huấn luyện độ chính xác cao và suy luận độ chính xác thấp. Thông qua ICN Switch 1.0, 64 chip Zhenwu M890 đạt kết nối liên kết 800GB/s, cung cấp 9TB bộ nhớ video và cho phép song song chuyên gia (expert parallelism) cho các mô hình MoE lớn. Alibaba cũng tối ưu hóa toàn bộ stack từ chip đến đám mây cho Qwen3.8, cải thiện hiệu suất suy luận lên tới 1,5 lần trong các tình huống tác nhân (agentic scenarios).
Nguồn: QbitAI 量子位 —
bản gốc
