Тренируйте и запускайте модели на GPU AMD с помощью Unsloth
Meta
Unsloth
Разработчики Unsloth объявили о поддержке GPU AMD для тренировки и запуска LLM. Теперь пользователи могут использовать оптимизированные процедуры Unsloth на оборудовании AMD, что расширяет доступность инструмента для сообщества.
Команда Unsloth, известная своей библиотекой для эффективного обучения больших языковых моделей (LLM) с низкими вычислительными затратами, объявила о поддержке графических процессоров AMD. Интеграция с AMD GPU позволяет пользователям запускать тренировочные пайплайны Unsloth на широком спектре оборудования, включая карты Radeon и Instinct. Решение включает оптимизированные реализации ключевых операций, таких как LoRA и Flash Attention, адаптированные под архитектуру AMD. Это расширение снижает зависимость от NVIDIA GPU и открывает возможности для более широкого круга исследователей и разработчиков, использующих открытые стандарты ROCm. Unsloth остается бесплатным и поддерживает модели из экосистемы Hugging Face.
- Сокращения
- GPU = Graphics Processing Unit — графический процессор
- LLM = Large Language Model — большая языковая модель
Источник: Meta AI (GNews) —
оригинал