Comparação de Frameworks para Ajuste Fino de IA: Unsloth, Axolotl, TRL e LLaMA-Factory — Velocidade, VRAM e Suporte Multi-GPU

O artigo apresenta uma comparação de quatro frameworks para ajuste fino de grandes modelos de linguagem: Unsloth, Axolotl, TRL (da Hugging Face) e LLaMA-Factory. Os pesquisadores os testaram em tarefas de fine-tuning, medindo a velocidade de treinamento e o uso de memória de vídeo (VRAM) em uma única GPU, bem como o desempenho na distribuição do treinamento em várias GPUs. Cada framework mostrou seus pontos fortes e fracos: Unsloth é provavelmente otimizado para velocidade, Axolotl é conhecido pela flexibilidade, TRL é fortemente integrado ao ecossistema Hugging Face, e LLaMA-Factory oferece uma interface conveniente. A escolha da ferramenta adequada depende dos requisitos específicos do projeto, como os recursos disponíveis e a necessidade de trabalhar com várias GPUs.