Unsloth, AMD GPU'larında model eğitimi ve çalıştırmayı mümkün kılıyor
Meta
Unsloth
Verimli Büyük Dil Modeli (LLM) ince ayarı için bir çerçeve olan Unsloth, artık AMD GPU'larını destekliyor. Bu, kullanıcıların NVIDIA GPU'larının ötesinde seçenekler sunarak AMD donanımında büyük dil modellerini eğitmesine ve dağıtmasına olanak tanıyor.
Unsloth, büyük dil modellerini ince ayarlamak için kullanılan popüler bir açık kaynak çerçeve, AMD GPU'ları için destek duyurdu. Daha önce CUDA ile NVIDIA GPU'larıyla sınırlı olan Unsloth, artık ROCm yazılımını kullanarak AMD hızlandırıcılarında eğitim ve çıkarım yapmayı mümkün kılıyor. Bu, yapay zeka geliştiricileri için donanım seçeneklerini genişleterek potansiyel olarak maliyetleri düşürüyor ve erişilebilirliği artırıyor. Güncelleme, AMD mimarisine özel optimizasyonlar içeriyor ve performans iyileştirmeleri vaat ediyor. Unsloth, Llama, Mistral ve diğer modelleri destekleyen hızı ve bellek verimliliğiyle biliniyor.
Kaynak: Meta AI (GNews) —
orijinal