Unsloth, AMD GPU에서 모델 훈련 및 실행 지원
Meta
Unsloth
효율적인 LLM 미세 조정을 위한 프레임워크 Unsloth가 이제 AMD GPU를 지원합니다. 이를 통해 사용자는 엔비디아(NVIDIA) GPU 외에도 AMD 하드웨어에서 대규모 언어 모델을 훈련하고 배포할 수 있습니다.
인기 있는 오픈소스 대규모 언어 모델 파인튜닝 프레임워크인 Unsloth가 AMD GPU 지원을 발표했습니다. 이전에는 CUDA를 탑재한 NVIDIA GPU에서만 사용 가능했던 Unsloth가 이제 ROCm 소프트웨어를 활용한 AMD 가속기에서도 훈련과 추론을 가능하게 합니다. 이는 AI 개발자의 하드웨어 선택 폭을 넓혀 잠재적으로 비용을 절감하고 접근성을 높일 수 있습니다. 이번 업데이트에는 AMD 아키텍처에 특화된 최적화가 포함되어 성능 향상을 약속합니다. Unsloth는 속도와 메모리 효율성으로 유명하며, Llama, Mistral 등의 모델을 지원합니다.
출처: Meta AI (GNews) —
원문
