UnslothがAMD GPUでのモデルトレーニングと実行を可能に

MetaMeta UnslothUnsloth
Unslothは、効率的なLLMファインチューニングのためのフレームワークであり、AMD GPUをサポートするようになりました。これにより、ユーザーはNVIDIA GPU以外の選択肢としてAMDハードウェア上で大規模言語モデルのトレーニングとデプロイが可能になります。
人気のオープンソースフレームワークであるUnslothが、AMD GPUのサポートを発表しました。これまでNVIDIA GPUとCUDAに限定されていましたが、UnslothはROCmソフトウェアを活用してAMDアクセラレータ上でのトレーニングと推論を可能にします。これにより、AI開発者のハードウェア選択肢が広がり、コスト削減とアクセシビリティ向上が期待されます。今回のアップデートにはAMDアーキテクチャに特化した最適化が含まれており、パフォーマンス向上が約束されています。Unslothは速度とメモリ効率で知られ、Llama、Mistralなどのモデルをサポートしています。
出典: Meta AI (GNews) — 原文
関連記事 ↓
新着ニュース