Économiser sur un LLM : un modèle chinois se met soudainement à écrire en caractères chinois
Le développeur d'un bot d'actualités bilingue a décidé de passer à un modèle d'IA moins cher : Ling 2.6 Flash d'Inclusion AI coûte 8 fois moins cher que DeepSeek V4 Flash et fonctionne 4 fois plus vite. Cependant, après une heure d'utilisation, des caractères chinois sont apparus dans le flux : le modèle revenait périodiquement à sa langue maternelle, le chinois, en particulier lors de générations plus longues. Le problème a été résolu en ajoutant un détecteur de caractères chinois avec une nouvelle requête au modèle propre.
Tencent
DeepSeek
Habr — хаб ML27.07 · 04:03