Unsloth AMD GPU पर मॉडल प्रशिक्षण और संचालन सक्षम करता है

लोकप्रिय ओपन-सोर्स फ्रेमवर्क अनस्लॉथ ने एएमडी जीपीयू के लिए समर्थन की घोषणा की है, जो बड़े भाषा मॉडलों को फाइन-ट्यून करने के लिए उपयोग किया जाता है। पहले केवल क्यूडीए वाले एनवीआईडीआईए जीपीयू तक सीमित अनस्लॉथ अब एएमडी एक्सेलेरेटर पर प्रशिक्षण और इन्फरेंस को सक्षम बनाती है, जो आरओसीएम सॉफ्टवेयर का लाभ उठाती है। इससे एआई डेवलपर्स के लिए हार्डवेयर विकल्पों का विस्तार होता है, संभावित रूप से लागत कम होती है और पहुंच बढ़ती है। अपडेट में एएमडी आर्किटेक्चर के लिए विशिष्ट ऑप्टिमाइजेशन शामिल हैं, जो प्रदर्शन में सुधार का वादा करते हैं। अनस्लॉथ अपनी गति और मेमोरी दक्षता के लिए जाना जाता है, जो लामा, मिस्ट्रल और अन्य जैसे मॉडलों का समर्थन करता है।