손실 수렴이 학습을 의미하는 것은 아니다: Tencent Hunyuan ACL 2026, SFT 훈련에서 15.3%의 "거짓 학습" 샘플 분석
Tencent
Tencent Hunyuan이 ACL 2026에 발표한 연구에 따르면, 지도 미세 조정(SFT) 중 손실 수렴이 모델이 실제로 학습했음을 보장하지 않습니다. 연구진은 훈련 샘플의 15.3%가 손실은 감소하지만 모델이 의도된 지식을 실제로 습득하지 못하는 "거짓 학습" 사례임을 확인했습니다. 이 연구는 이러한 샘플을 탐지하는 방법을 제공하고 SFT 개선 방안을 제시합니다.
Tencent Hunyuan가 ACL 2026에서 지도 미세 조정(SFT)에서의 '거짓 학습(false learning)' 현상을 분석한 연구를 발표했습니다. 이 연구는 훈련 손실(train loss)이 수렴하더라도 모델이 목표 지식을 실제로 학습하지 못할 수 있음을 보여줍니다. 연구진은 SFT의 15.3% 샘플에서 손실이 감소함에도 모델이 일반화에 실패하는 이러한 거짓 학습이 발생한다는 것을 발견했습니다. 팀은 이러한 샘플을 식별하는 탐지 방법을 개발했으며 거짓 학습을 완화하여 SFT의 신뢰성을 향상시키는 기술을 제안했습니다.
출처: Tencent Hunyuan (GNews) —
원문