Экономия на LLM: китайская модель неожиданно начала писать иероглифами
Разработчик двуязычного новостного бота решил сменить модель ИИ на более дешёвую: Ling 2.6 Flash от Inclusion AI обходится в 8 раз дешевле DeepSeek V4 Flash и работает в 4 раза быстрее. Однако через час использования в ленте появились иероглифы: модель периодически «сваливалась» в родной китайский язык, особенно на длинных генерациях. Проблему решили добавлением детектора иероглифов с переспросом к чистой модели.
Tencent
DeepSeek
Habr — хаб ML27.07 · 04:03