Unsloth cho phép huấn luyện và chạy mô hình trên GPU AMD

Unsloth, một framework mã nguồn mở phổ biến để tinh chỉnh các mô hình ngôn ngữ lớn, đã công bố hỗ trợ GPU AMD. Trước đây chỉ giới hạn trên GPU NVIDIA với CUDA, Unsloth hiện cho phép huấn luyện và suy luận trên các bộ tăng tốc AMD, tận dụng phần mềm ROCm. Điều này mở rộng lựa chọn phần cứng cho các nhà phát triển AI, có khả năng giảm chi phí và tăng khả năng tiếp cận. Bản cập nhật bao gồm các tối ưu hóa dành riêng cho kiến trúc AMD, hứa hẹn cải thiện hiệu suất. Unsloth nổi tiếng với tốc độ và hiệu quả bộ nhớ, hỗ trợ các mô hình như Llama, Mistral và nhiều mô hình khác.