Unsloth permet d'entraîner et d'exécuter des modèles sur les GPU AMD

Unsloth, un framework open-source populaire pour le fine-tuning de grands modèles de langage, a annoncé la prise en charge des GPU AMD. Auparavant limité aux GPU NVIDIA avec CUDA, Unsloth permet désormais l'entraînement et l'inférence sur les accélérateurs AMD, en utilisant le logiciel ROCm. Cela élargit les choix matériels pour les développeurs en intelligence artificielle, ce qui pourrait réduire les coûts et accroître l'accessibilité. La mise à jour inclut des optimisations spécifiques à l'architecture AMD, promettant des améliorations de performances. Unsloth est réputé pour sa rapidité et son efficacité mémoire, prenant en charge des modèles comme Llama, Mistral, entre autres.