Loss-Konvergenz bedeutet nicht Lernen: Tencent Hunyuan ACL 2026 analysiert 15,3 % „falsche Lerner“-Stichproben im SFT-Training
Tencent
Tencent Hunyuan hat auf der ACL 2026 eine Studie veröffentlicht, die zeigt, dass während des überwachten Feintunings (SFT) die Konvergenz des Verlusts nicht garantiert, dass das Modell tatsächlich gelernt hat. Sie identifizierten, dass 15,3 % der Trainingsstichproben „falsche Lerner“-Fälle sind, bei denen der Verlust sinkt, das Modell aber nicht wirklich das beabsichtigte Wissen erwirbt. Die Forschung bietet eine Methode zur Erkennung dieser Stichproben und schlägt Verbesserungen für SFT vor.
Tencent Hunyuan präsentierte auf der ACL 2026 eine Forschungsarbeit, die das Phänomen des „falschen Lernens“ beim überwachten Feintuning (Supervised Fine-Tuning, SFT) analysiert. Die Studie zeigt, dass das Modell selbst dann, wenn der Trainingsverlust konvergiert, möglicherweise nicht wirklich das Zielwissen erlernt hat. Die Forscher fanden heraus, dass 15,3 % der Stichproben im SFT dieses falsche Lernen aufweisen, bei dem der Verlust abnimmt, das Modell jedoch nicht generalisiert. Das Team entwickelte eine Erkennungsmethode, um solche Stichproben zu identifizieren, und schlug Techniken vor, um falsches Lernen zu mildern und die Zuverlässigkeit des SFT zu verbessern.
Quelle: Tencent Hunyuan (GNews) —
Original