Les entreprises chinoises développent activement leurs propres grands modèles de langage, cherchant à concurrencer leurs homologues américaines. Zhipu AI a annoncé une mise à jour majeure de son modèle GLM-5.5, qu'elle qualifie d'amélioration « épique ».
Dans la quatrième partie de la série d'articles, l'auteur effectue un ajustement supervisé (Supervised Fine-Tuning, SFT) de son LLM décodeur seul sur un ensemble de données de questions-réponses afin que le modèle puisse mener un dialogue plutôt que simplement continuer du texte. L'article aborde la collecte de données, l'expansion du tokenizer, la préparation du jeu de données avec masquage de la perte uniquement sur les réponses de l'assistant, et les résultats de l'entraînement : le modèle a appris le format de réponse mais souffre d'inexactitudes concernant le lore.
Hugging Face