Verliesconvergentie betekent niet dat er geleerd wordt: Tencent Hunyuan ACL 2026 ontleedt 15,3% "vals leren"-monsters in SFT-training
Tencent
Tencent Hunyuan heeft op ACL 2026 een studie gepubliceerd waaruit blijkt dat tijdens supervised fine-tuning (SFT) verliesconvergentie niet garandeert dat het model daadwerkelijk heeft geleerd. Ze identificeerden dat 15,3% van de trainingsmonsters "vals leren"-gevallen zijn, waarbij het verlies daalt maar het model de beoogde kennis niet echt verwerft. Het onderzoek biedt een methode om deze monsters te detecteren en suggereert verbeteringen voor SFT.
Tencent Hunyuan presenteerde tijdens ACL 2026 onderzoek naar het fenomeen 'vals leren' bij supervised fine-tuning (SFT). De studie toont aan dat zelfs wanneer het trainingsverlies convergeert, het model mogelijk niet echt de beoogde kennis heeft geleerd. Ze ontdekten dat 15,3% van de samples in SFT dit valse leren vertoont, waarbij het verlies afneemt maar het model niet generaliseert. Het team ontwikkelde een detectiemethode om dergelijke samples te identificeren en stelde technieken voor om vals leren te beperken, waardoor de betrouwbaarheid van SFT verbetert.
Bron: Tencent Hunyuan (GNews) —
origineel