テンセント混元が先導：AIトレーニングが「脱線」したとき、軌道に戻す方法

腾讯混元的研究人员引入了一项新技术，用于识别AI训练偏离预期路径的情况——即所谓的“走偏”——并引导模型回到稳定的轨迹上。该方法在最近的一项公告中描述，实时监控训练动态，并应用修正性调整以防止发散，发散是训练不稳定的常见原因。这项创新旨在提高大规模模型训练的可靠性，减少计算资源的浪费，并确保模型收敛到其最佳性能。该技术尤其适用于大型语言模型，这类模型的训练可能不可预测且资源密集。