Unsloth memungkinkan pelatihan dan menjalankan model di GPU AMD
Meta
Unsloth
Unsloth, kerangka kerja untuk penyesuaian halus (fine-tuning) LLM yang efisien, kini mendukung GPU AMD. Hal ini memungkinkan pengguna untuk melatih dan menerapkan model bahasa besar pada perangkat keras AMD, memperluas pilihan di luar GPU NVIDIA.
Unsloth, kerangka kerja sumber terbuka populer untuk penyesuaian model bahasa besar, telah mengumumkan dukungan untuk GPU AMD. Sebelumnya terbatas pada GPU NVIDIA dengan CUDA, Unsloth kini memungkinkan pelatihan dan inferensi pada akselerator AMD, memanfaatkan perangkat lunak ROCm. Ini memperluas pilihan perangkat keras bagi pengembang AI, berpotensi mengurangi biaya dan meningkatkan aksesibilitas. Pembaruan ini mencakup optimalisasi khusus untuk arsitektur AMD, menjanjikan peningkatan performa. Unsloth dikenal akan kecepatan dan efisiensi memorinya, mendukung model seperti Llama, Mistral, dan lainnya.
Sumber: Meta AI (GNews) —
asli