Сравнение фреймворков для тонкой настройки ИИ: Unsloth, Axolotl, TRL и LLaMA-Factory — скорость, VRAM и многопроцессорность

Авторы провели сравнение четырёх популярных фреймворков для тонкой настройки больших языковых моделей: Unsloth, Axolotl, TRL и LLaMA-Factory. Основное внимание уделялось скорости обучения, потреблению видеопамяти (VRAM) и поддержке нескольких GPU. Результаты помогут разработчикам выбрать оптимальный инструмент для своих задач.

Meta Unsloth Hugging Face LLaMA-Factory (hiyouga)

Нейросеть кратно ускорила анализ проб воды из Байкала, сохранив точность на уровне экспертов

Разработанная нейросеть позволяет анализировать пробы воды из Байкала в несколько раз быстрее, при этом точность сопоставима с результатами работы экспертов.