손실 수렴이 학습을 의미하지는 않는다: 텐센트 훈위안, ACL 2026에서 SFT 훈련 샘플의 15.3%가 '거짓 학습'임을 규명
Tencent
텐센트 훈위안(Tencent Hunyuan)이 ACL 2026에 발표한 연구에 따르면, 지도 미세 조정(SFT) 중 손실 수렴이 모델이 실제로 학습했음을 보장하지 않습니다. 연구진은 훈련 샘플의 15.3%가 손실은 감소하지만 모델이 실제로 의도한 지식을 습득하지 못하는 '거짓 학습' 사례임을 확인했습니다. 이 연구는 이러한 샘플을 탐지하는 방법을 제공하고 SFT 개선 방안을 제시합니다.
Tencent Hunyuan가 ACL 2026에서 지도 미세 조정(SFT)에서의 '거짓 학습(false learning)' 현상을 분석한 연구를 발표했습니다. 이 연구는 훈련 손실(train loss)이 수렴하더라도 모델이 목표 지식을 실제로 학습하지 못할 수 있음을 보여줍니다. 연구진은 SFT의 15.3% 샘플에서 손실이 감소함에도 모델이 일반화에 실패하는 이러한 거짓 학습이 발생한다는 것을 발견했습니다. 팀은 이러한 샘플을 식별하는 탐지 방법을 개발했으며 거짓 학습을 완화하여 SFT의 신뢰성을 향상시키는 기술을 제안했습니다.
출처: Tencent Hunyuan (GNews) —
원문