Konvergensi Loss Tidak Berarti Pembelajaran: Tencent Hunyuan ACL 2026 Mengungkap 15,3% Sampel "Pembelajaran Palsu" dalam Pelatihan SFT
Tencent
Tencent Hunyuan telah menerbitkan studi di ACL 2026 yang menunjukkan bahwa selama supervised fine-tuning (SFT), konvergensi loss tidak menjamin model benar-benar belajar. Mereka mengidentifikasi bahwa 15,3% sampel pelatihan adalah kasus "pembelajaran palsu" di mana loss menurun tetapi model tidak benar-benar memperoleh pengetahuan yang dimaksudkan. Penelitian ini menyediakan metode untuk mendeteksi sampel tersebut dan menyarankan perbaikan untuk SFT.
Tencent Hunyuan mempresentasikan penelitian di ACL 2026 yang menganalisis fenomena 'pembelajaran palsu' dalam fine-tuning terawasi (SFT). Studi ini mengungkapkan bahwa bahkan ketika loss pelatihan konvergen, model mungkin belum benar-benar mempelajari pengetahuan target. Mereka menemukan bahwa 15,3% sampel dalam SFT menunjukkan pembelajaran palsu ini, di mana loss menurun tetapi model gagal untuk melakukan generalisasi. Tim mengembangkan metode deteksi untuk mengidentifikasi sampel tersebut dan mengusulkan teknik untuk mengurangi pembelajaran palsu, sehingga meningkatkan keandalan SFT.
Sumber: Tencent Hunyuan (GNews) —
asli