Unsloth mahdollistaa mallien koulutuksen ja suorittamisen AMD-grafiikkasuorittimilla
Meta
Unsloth
Unsloth, tehokkaan kielimallin hienosäätöön tarkoitettu kehys, tukee nyt AMD-grafiikkasuorittimia. Tämä mahdollistaa suurten kielimallien kouluttamisen ja käyttöönoton AMD-laitteistolla, laajentaen vaihtoehtoja NVIDIA-grafiikkasuorittimien lisäksi.
Unsloth, suosittu avoimen lähdekoodin viitekehys suurten kielimallien hienosäätöön, on ilmoittanut tukevansa AMD:n grafiikkasuorittimia. Aiemmin vain NVIDIA:n CUDAa käyttäviin grafiikkasuorittimiin rajoittunut Unsloth mahdollistaa nyt koulutuksen ja päättelyn AMD:n kiihdyttimillä hyödyntäen ROCm-ohjelmistoa. Tämä laajentaa tekoälykehittäjien laitteistovalikoimaa, mikä saattaa vähentää kustannuksia ja lisätä saavutettavuutta. Päivitys sisältää AMD-arkkitehtuurille ominaisia optimointeja, jotka lupaavat suorituskyvyn parannuksia. Unsloth tunnetaan nopeudestaan ja muistitehokkuudestaan, ja se tukee malleja, kuten Llama, Mistral ja muita.
Lähde: Meta AI (GNews) —
Alkuperäinen