Häviön konvergenssi ei tarkoita oppimista: Tencent Hunyuan ACL 2026 paljastaa 15,3 % "vääräoppimisnäytteitä" SFT-koulutuksessa
Tencent
Tencent Hunyuan on julkaissut tutkimuksen ACL 2026 -konferenssissa osoittaen, että ohjatussa hienosäädössä (supervised fine-tuning, SFT) häviön konvergenssi ei takaa, että malli on todella oppinut. He tunnistivat, että 15,3 prosenttia koulutusnäytteistä on "vääräoppimistapauksia", joissa häviö laskee, mutta malli ei itse asiassa omaksu aiottua tietoa. Tutkimus tarjoaa menetelmän näiden näytteiden havaitsemiseen ja ehdottaa parannuksia SFT:hen.
Tencent Hunyuan esitteli ACL 2026 -konferenssissa tutkimuksen, joka analysoi ”väärän oppimisen” ilmiötä ohjatussa hienosäädössä (supervised fine-tuning, SFT). Tutkimus paljastaa, että vaikka harjoituksen tappio konvergoituu, malli ei välttämättä ole todella oppinut kohdetietoa. He havaitsivat, että 15,3 prosentissa SFT:n näytteistä esiintyy tätä väärää oppimista, jossa tappio pienenee, mutta malli ei kykene yleistämään. Tiimi kehitti havaitsemismenetelmän tällaisten näytteiden tunnistamiseksi ja ehdotti tekniikoita väärän oppimisen lieventämiseksi, mikä parantaa SFT:n luotettavuutta.
Lähde: Tencent Hunyuan (GNews) —
Alkuperäinen