Alibaba Cloud: Zhenwu M890 Çipi Qwen3.8 Modeline Uyum Sağladı, Model Bailian'da Çıkarım İçin Yayında
Alibaba/Qwen
Alibaba Cloud, Zhenwu M890 süper düğüm çipinin Qwen3.8 modeline başarıyla uyum sağladığını ve Bailian platformunda çıkarım yapılabildiğini duyurdu. Zhenwu M890, T-Head'in yeni nesil yapay zeka çipi olup FP32'den FP4'e kadar hassasiyeti destekler ve ICN Switch 1.0 aracılığıyla 800 GB/saniye ara bağlantı hızına ulaşarak tek bir örneğin 2,4 trilyon parametreli bir modeli çalıştırmasına olanak tanır.
Alibaba Cloud, 23 Temmuz'da Zhenwu M890 süper düğüm çipinin, Alibaba'nın 2,4 trilyon parametreli amiral gemisi modeli Qwen3.8'i başarıyla adapte ettiğini ve artık Bailian platformunda çıkarım hizmetleri sunduğunu duyurdu. Bu, bir Çin süper düğümünün 2 trilyon parametreyi aşan bir modeli çalıştırdığı ilk sefer oldu. T-Head tarafından geliştirilen Zhenwu M890, FP32'den FP4'e kadar veri hassasiyetlerini destekleyen, yüksek hassasiyetli eğitim ve düşük hassasiyetli çıkarım için uygun yeni nesil bir yapay zeka çipidir. ICN Switch 1.0 aracılığıyla 64 adet Zhenwu M890 çipi, 800GB/s bağlantı sağlayarak 9TB video belleği sunar ve büyük MoE modelleri için uzman paralelliğini mümkün kılar. Alibaba ayrıca, Qwen3.8 için çipten buluta tam yığını optimize ederek aracı senaryolarda çıkarım verimliliğini 1,5 kata kadar artırdı.
Kaynak: QbitAI 量子位 —
orijinal
