Alibaba выпускает Qwen2.5-Coder: до 32 миллиардов параметров, модели кода с открытым исходным кодом
Alibaba/Qwen
DeepSeek
Mistral
Команда Qwen из Alibaba объявляет о выпуске Qwen2.5-Coder — новой серии моделей кода с открытым исходным кодом в размерах 1.5 миллиарда, 7 миллиардов и предстоящих 32 миллиардов параметров, обученных на 5,5 триллионах токенов. Версия на 7 миллиардов параметров превосходит более крупные модели, такие как DeepSeek-Coder-V2-Lite и CodeStral-22B, на задачах по коду, сохраняя при этом высокие математические и общие способности.
Команда Qwen из Alibaba выпустила Qwen2.5-Coder, преемника CodeQwen1.5, в рамках серии Qwen2.5. Модели доступны в трех размерах: 1,5B, 7B и версия на 32B, которая скоро появится. Они обучены на 5,5 триллиона токенов, включая исходный код, данные привязки текста к коду и синтетические данные, с дополнительными математическими и общими данными для сохранения некодирующих способностей. Базовая
Показать ещё ↓
Источник: Alibaba Qwen —
оригинал