657 Mt:n ajattelumalli: MiniCPM:n hienosäätö Claude Fable 5:n jäljillä
OpenAI
Kehittäjä hienosääti OpenBMB MiniCPM5-1B-mallin käyttämällä päättelyjälkiä Claude Fable 5:stä, luoden tiiviin 657 megatavun paikallisen ajattelumallin, joka pystyy ratkaisemaan monimutkaisia tehtäviä, mukaan lukien matemaattiset ja loogiset ongelmat.
Tuntematon kehittäjä (tai tiimi) otti OpenBMB:n avoimen MiniCPM5-1B-mallin ja hienosääti sitä Claude Fable 5 -mallin päättelyketjuilla (traceilla). Tuloksena on paikallinen päättelymalli, jonka koko on vain 657 megatavua. Malli pystyy suorittamaan päättelyä monimutkaisissa tehtävissä, mukaan lukien matemaattiset ja loogiset ongelmat, ja osoittaa ominaisuuksia, jotka muistuttavat paljon suurempia kielimalleja. Tämä työ osoittaa, että tehokkaat päättelykyvyt voidaan pakata erittäin kompakteihin malleihin, jotka soveltuvat paikalliseen käyttöön rajoitetuilla resursseilla varustetuissa laitteissa.
Lähde: Meta AI (GNews) —
Alkuperäinen