Unsloth — новости и модели ИИ

Обучение и запуск моделей на GPU AMD с помощью Unsloth

Unsloth объявил о поддержке GPU AMD, что позволяет эффективно обучать и запускать модели ИИ на оборудовании AMD. Интеграция обеспечивает высокую производительность и оптимизацию.

Сравнение фреймворков для тонкой настройки ИИ: Unsloth, Axolotl, TRL и LLaMA-Factory — скорость, VRAM и многопроцессорность

Авторы провели сравнение четырёх популярных фреймворков для тонкой настройки больших языковых моделей: Unsloth, Axolotl, TRL и LLaMA-Factory. Основное внимание уделялось скорости обучения, потреблению видеопамяти (VRAM) и поддержке нескольких GPU. Результаты помогут разработчикам выбрать оптимальный инструмент для своих задач.