Qwen2.5: Bir Temel Modeller Partisi!
Alibaba/Qwen
Meta
Mistral
OpenAI
Anthropic
DeepSeek
Microsoft
Google/DeepMind
Alibaba'nın Qwen ekibi, Qwen2.5 LLM'lerin açık kaynak olarak yayınlandığını ve ayrıca kodlama (Qwen2.5-Coder) ve matematik (Qwen2.5-Math) için özelleşmiş modelleri duyurdu. Modeller, 0,5B ile 72B parametre arasında değişiyor, 18 trilyon tokene kadar ön eğitim yapıldı ve bilgi, kodlama ve matematik yeteneklerinde önemli iyileştirmeler sağlandı. Sürüm ayrıca API modelleri Qwen-Plus ve Qwen-Turbo'yu da içeriyor.
Alibaba'nın Qwen ekibi, Qwen2.5'i yayınladı; bu, yalnızca kod çözücü tabanlı bir açık kaynak dil modelleri ailesi olup, özelleşmiş Qwen2.5-Coder ve Qwen2.5-Math modellerini de içermektedir. Modeller 0.5B ila 72B parametre aralığında çeşitli boyutlarda sunulmakta ve 18 trilyon token'e kadar eğitim verisiyle önceden eğitilmiştir. Qwen2.5, MMLU'de %85+, HumanEval'de %85+ ve MATH'te %80+ başarı elde etmekte, 128K token'e kadar bağlam ve 8K token üretim kapasitesini desteklemekte ve 29'dan fazla dil için çoklu dil desteği sunmaktadır. Qwen2.5-Coder, 5.5 trilyon token kod verisiyle eğitilirken, Qwen2.5-Math, CoT, PoT ve TIR akıl yürütme yöntemlerini desteklemektedir. Ayrıca amiral gemisi API modelleri Qwen-Plus ve Qwen-Turbo da sunulmaktadır. 3B ve 72B varyantları Apache 2.0 lisansına sahip değildir.
Kaynak: Alibaba Qwen —
orijinal