Unsloth позволяет обучать и запускать модели на GPU AMD
Meta
Unsloth
Unsloth, фреймворк для эффективной тонкой настройки больших языковых моделей (LLM), теперь поддерживает GPU AMD. Это позволяет пользователям обучать и развертывать большие языковые модели на оборудовании AMD, расширяя возможности за пределы GPU NVIDIA.
Unsloth, популярная платформа с открытым исходным кодом для тонкой настройки больших языковых моделей, объявила о поддержке графических процессоров AMD. Ранее ограниченный графическими процессорами NVIDIA с технологией Compute Unified Device Architecture (CUDA), теперь Unsloth позволяет выполнять обучение и инференс на ускорителях AMD, используя программное обеспечение Radeon Open Compute (ROCm).
Показать ещё ↓
Источник: Meta AI (GNews) —
оригинал