Verliesconvergentie betekent niet dat er geleerd wordt: Tencent Hunyuan ontleedt op ACL 2026 15,3% 'vals leren' voorbeelden in SFT-training
Tencent
Tencent Hunyuan heeft een studie gepubliceerd op ACL 2026 waaruit blijkt dat tijdens supervised fine-tuning (SFT) verliesconvergentie niet garandeert dat het model daadwerkelijk heeft geleerd. Ze identificeerden dat 15,3% van de trainingsvoorbeelden gevallen van 'vals leren' zijn, waarbij het verlies daalt maar het model de beoogde kennis niet daadwerkelijk verwerft. Het onderzoek biedt een methode om deze voorbeelden te detecteren en suggereert verbeteringen voor SFT.
Tencent Hunyuan presenteerde tijdens ACL 2026 onderzoek naar het fenomeen 'vals leren' bij supervised fine-tuning (SFT). De studie toont aan dat zelfs wanneer het trainingsverlies convergeert, het model mogelijk niet echt de beoogde kennis heeft geleerd. Ze ontdekten dat 15,3% van de samples in SFT dit valse leren vertoont, waarbij het verlies afneemt maar het model niet generaliseert. Het team ontwikkelde een detectiemethode om dergelijke samples te identificeren en stelde technieken voor om vals leren te beperken, waardoor de betrouwbaarheid van SFT verbetert.
Bron: Tencent Hunyuan (GNews) —
origineel