LFM2.5-2.6B: новая компактная языковая модель для агентов на устройствах
Компания Liquid AI выпустила модель LFM2.5-2.6B — компактную модель с 2,6 миллиарда параметров, оптимизированную для агентных задач и эффективного развертывания на устройствах. По показателям агентных задач, следования инструкциям и использования инструментов она сопоставима с моделями в четыре раза крупнее, а также обеспечивает высокую скорость инференса как на CPU, так и на GPU.
Liquid AI представила LFM2.5-2.6B — модель с 2,6 миллиарда параметров, предназначенную для агентных задач на периферийных устройствах. Предобученная примерно на 34 триллионах токенов с контекстным окном 128 тысяч, она прошла пост-обучение в четыре этапа: контролируемую тонкую настройку, специализацию учителя, многодоменную дистилляцию на основе политики и агентное обучение с подкреплением в
Показать ещё ↓
Источник: Hugging Face blog —
оригинал