Sparen beim LLM: Chinesisches Modell schrieb plötzlich auf Chinesisch
Ein Entwickler eines zweisprachigen News-Bots entschied sich für ein günstigeres KI-Modell: Ling 2.6 Flash von Inclusion AI kostet 8-mal weniger als DeepSeek V4 Flash und läuft 4-mal schneller. Nach einer Stunde Nutzung tauchten jedoch chinesische Schriftzeichen im Feed auf: Das Modell wechselte periodisch zurück in seine Muttersprache Chinesisch, besonders bei längeren Generierungen. Das Problem wurde gelöst, indem ein Detektor für chinesische Zeichen mit einer erneuten Abfrage des sauberen Modells hinzugefügt wurde.
Tencent
DeepSeek
Habr — хаб ML27.07 · 04:03