阿里云:镇岳M890芯片适配Qwen3.8,模型已在百炼上线推理
阿里云宣布,其镇岳M890超节点芯片已成功适配Qwen3.8模型,可在百炼平台进行推理。镇岳M890是平头哥的新一代AI芯片,支持FP32到FP4精度,并通过ICN Switch 1.0实现800GB/s互联,单个实例可运行2.4万亿参数模型。
Alibaba/Qwen
QbitAI 量子位24.07 · 01:03
阿里云宣布,其镇岳M890超节点芯片已成功适配Qwen3.8模型,可在百炼平台进行推理。镇岳M890是平头哥的新一代AI芯片,支持FP32到FP4精度,并通过ICN Switch 1.0实现800GB/s互联,单个实例可运行2.4万亿参数模型。
Alibaba/Qwen
Gigatoken是一个由斯坦福博士生Marcel Rød用Rust编写的BPE分词器,在144核AMD EPYC系统上实现了24.53 GB/s的文本编码速度,比HuggingFace分词器快989倍,比OpenAI的tiktoken快681倍。该库支持23种分词器家族,其速度归功于使用SWAR SIMD技术和分词缓存的手工优化预分词器。
OpenAI
Hugging Face
Google/DeepMind
Meta
Alibaba/Qwen
DeepSeek
Moonshot AI
NVIDIA