Масштабное дообучение моделей видео и изображений с NVIDIA NeMo Automodel и 🤗 Diffusers
Alibaba/Qwen
Hugging Face
Tencent
NVIDIA
NVIDIA и Hugging Face представили интеграцию библиотеки NeMo Automodel с экосистемой Diffusers, позволяющую дообучать диффузионные модели без конвертации чекпоинтов и переписывания кода. Поддерживаются модели FLUX.1-dev, Wan 2.1, HunyuanVideo и другие, с возможностью полного дообучения и LoRA на одной или сотнях GPU.
NVIDIA и Hugging Face объявили об интеграции библиотеки NeMo Automodel с экосистемой Diffusers, что позволяет дообучать диффузионные модели без конвертации чекпоинтов и переписывания кода. Поддерживаются модели FLUX.1-dev, Wan 2.1, HunyuanVideo и другие. Доступно как полное дообучение, так и LoRA на одной или сотнях GPU. Интеграция использует PyTorch DTensor и поддерживает параллелизм FSDP2, тензорный, контекстный и конвейерный. Все компоненты распространяются с открытым исходным кодом под лицензией Apache 2.0.
- Сокращения
- GPU = Graphics Processing Unit — графический процессор
- API = Application Programming Interface — интерфейс программирования приложений
- SDK = Software Development Kit — комплект для разработки программного обеспечения
- LLM = Large Language Model — большая языковая модель
Источник: Hugging Face blog —
оригинал