Konvergensi Loss Tidak Berarti Pembelajaran: Tencent Hunyuan ACL 2026 Bedah 15,3% Sampel "Pembelajaran Palsu" dalam Pelatihan SFT
Tencent
Tencent Hunyuan telah menerbitkan studi di ACL 2026 yang menunjukkan bahwa selama fine-tuning terawasi (SFT), konvergensi loss tidak menjamin bahwa model benar-benar telah belajar. Mereka mengidentifikasi bahwa 15,3% sampel pelatihan merupakan kasus "pembelajaran palsu" di mana loss turun tetapi model tidak benar-benar memperoleh pengetahuan yang dimaksudkan. Penelitian ini menyediakan metode untuk mendeteksi sampel-sampel tersebut dan menyarankan perbaikan untuk SFT.
Tencent Hunyuan mempresentasikan penelitian di ACL 2026 yang menganalisis fenomena 'pembelajaran palsu' dalam fine-tuning terawasi (SFT). Studi ini mengungkapkan bahwa bahkan ketika loss pelatihan konvergen, model mungkin belum benar-benar mempelajari pengetahuan target. Mereka menemukan bahwa 15,3% sampel dalam SFT menunjukkan pembelajaran palsu ini, di mana loss menurun tetapi model gagal untuk melakukan generalisasi. Tim mengembangkan metode deteksi untuk mengidentifikasi sampel tersebut dan mengusulkan teknik untuk mengurangi pembelajaran palsu, sehingga meningkatkan keandalan SFT.
Sumber: Tencent Hunyuan (GNews) —
asli