Häviön konvergenssi ei tarkoita oppimista: Tencent Hunyuan ACL 2026 paljastaa 15,3% "vääräoppivia" näytteitä SFT-harjoituksessa
Tencent
Tencent Hunyuan on julkaissut tutkimuksen ACL 2026 -konferenssissa, joka osoittaa, että ohjatussa hienosäädössä (SFT, supervised fine-tuning) häviön konvergenssi ei takaa, että malli on todella oppinut. He tunnistivat, että 15,3% harjoitusnäytteistä on "vääräoppivia" tapauksia, joissa häviö laskee, mutta malli ei itse asiassa omaksu aiottua tietoa. Tutkimus tarjoaa menetelmän näiden näytteiden havaitsemiseen ja ehdottaa parannuksia SFT:hen.
Tencent Hunyuan esitteli ACL 2026 -konferenssissa tutkimuksen, joka analysoi ”väärän oppimisen” ilmiötä ohjatussa hienosäädössä (supervised fine-tuning, SFT). Tutkimus paljastaa, että vaikka harjoituksen tappio konvergoituu, malli ei välttämättä ole todella oppinut kohdetietoa. He havaitsivat, että 15,3 prosentissa SFT:n näytteistä esiintyy tätä väärää oppimista, jossa tappio pienenee, mutta malli ei kykene yleistämään. Tiimi kehitti havaitsemismenetelmän tällaisten näytteiden tunnistamiseksi ja ehdotti tekniikoita väärän oppimisen lieventämiseksi, mikä parantaa SFT:n luotettavuutta.
Lähde: Tencent Hunyuan (GNews) —
Alkuperäinen