Unsloth permite entrenar y ejecutar modelos en GPU AMD

Unsloth, un popular marco de código abierto para el ajuste fino de modelos de lenguaje grandes, ha anunciado soporte para GPU de AMD. Anteriormente limitado a GPU de NVIDIA con CUDA, Unsloth ahora permite entrenamiento e inferencia en aceleradores de AMD, aprovechando el software ROCm. Esto amplía las opciones de hardware para desarrolladores de inteligencia artificial, lo que podría reducir costos y aumentar la accesibilidad. La actualización incluye optimizaciones específicas para la arquitectura AMD, lo que promete mejoras en el rendimiento. Unsloth es conocido por su velocidad y eficiencia de memoria, ya que admite modelos como Llama, Mistral y otros.