Trace as Teacher: Päättelyn tislaaminen pieniin malleihin
Meta
Koulutusmenetelmä, jossa suuri malli jättää jäljen päättelystään, ja pieni malli oppii näistä jäljistä, mikä mahdollistaa loogisen päättelykyvyn siirtämisen kompakteihin neuroverkkoihin.
The Sequence Knowledge #898 -numerossa käsitellään menetelmää nimeltä "The Trace Is the Teacher" (suom. "Jälki on opettaja"). Lähestymistavan ydin on siinä, että suuri kielimalli (LLM, large language model) tuottaa ongelmaa ratkaistessaan paitsi vastauksen, myös ketjun välivaiheen päättelyaskeleita eli niin sanotun jäljen. Tätä jälkeä käytetään sitten koulutussignaalina pienelle mallille, joka oppii toistamaan paitsi lopullisen vastauksen, myös koko ajatteluprosessin. Näin kompakti neuroverkko omaksuu päättelykyvyn, joka on tyypillisesti ominaista vain suurille malleille. Menetelmä kuuluu tiedon tislauksen (knowledge distillation) alaan ja mahdollistaa mallin koon merkittävän pienentämisen ilman, että looginen päättelykyky kärsii.
Lähde: Meta AI (GNews) —
Alkuperäinen