Qwen2.5：基础模型盛宴！
Alibaba/Qwen
Meta
Mistral
OpenAI
Anthropic
DeepSeek
Microsoft
Google/DeepMind
阿里巴巴 Qwen 团队宣布开源发布 Qwen2.5 大语言模型，以及用于编程（Qwen2.5-Coder）和数学（Qwen2.5-Math）的专用模型。模型参数规模从 0.5B 到 72B，预训练数据量高达 18 万亿个标记，在知识、编程和数学能力方面有显著提升。此次发布还包括 API 模型 Qwen-Plus 和 Qwen-Turbo。
阿里巴巴的Qwen团队发布了Qwen2.5，这是一个开源解码器专用语言模型系列，同时推出了专门模型Qwen2.5-Coder和Qwen2.5-Math。这些模型的参数规模从0.5B到72B不等，在高达18万亿个令牌上进行了预训练。Qwen2.5在MMLU上达到85+，HumanEval上达到85+，MATH上达到80+，支持高达128K令牌的上下文和8K令牌的生成，并提供了超过29种语言的多语言支持。Qwen2.5-Coder在5.5万亿个代码数据令牌上进行了训练，而Qwen2.5-Math支持链式推理（CoT）、程序辅助推理（PoT）和工具集成推理（TIR）。同时，还提供了旗舰API模型Qwen-Plus和Qwen-Turbo。需要注意的是，3B和72B变体并非采用Apache 2.0许可证。
来源: Alibaba Qwen —
原文