Alibaba Cloud: Chip Zhenwu M890 Beradaptasi dengan Qwen3.8, Model Tersedia di Bailian untuk Inferensi
Alibaba/Qwen
Alibaba Cloud mengumumkan bahwa chip supernode Zhenwu M890 telah berhasil mengadaptasi model Qwen3.8, memungkinkan inferensi di platform Bailian. Zhenwu M890 adalah chip AI generasi baru dari T-Head yang mendukung presisi FP32 hingga FP4 dan mencapai interkoneksi 800GB/s melalui ICN Switch 1.0, sehingga sebuah instance tunggal dapat menjalankan model dengan parameter 2,4 triliun.
Alibaba Cloud mengumumkan pada 23 Juli bahwa chip supernode Zhenwu M890 telah berhasil mengadaptasi Qwen3.8, model unggulan Alibaba dengan 2,4 triliun parameter, dan kini menyediakan layanan inferensi di platform Bailian. Ini menandai pertama kalinya sebuah supernode China menjalankan model yang melampaui 2 triliun parameter. Zhenwu M890, yang dikembangkan oleh T-Head, adalah chip AI generasi baru yang mendukung presisi data dari FP32 hingga FP4, cocok untuk pelatihan presisi tinggi dan inferensi presisi rendah. Melalui ICN Switch 1.0, 64 chip Zhenwu M890 mencapai interkoneksi 800GB/s, menyediakan 9TB memori video dan memungkinkan paralelisme pakar untuk model MoE besar. Alibaba juga mengoptimalkan tumpukan penuh dari chip hingga cloud untuk Qwen3.8, meningkatkan efisiensi inferensi hingga 1,5 kali lipat dalam skenario agen.
Sumber: QbitAI 量子位 —
asli