商业与市场开源 🇷🇺 27.07.2026 04:03

LLM成本节省:中国模型竟自动输出汉字

TencentTencent DeepSeekDeepSeek
一个AI新闻聚合机器人切换到了更便宜的中国模型(ling-2.6-flash),成本降低8倍,但发现该模型在俄语输出中经常生成中文字符。开发者添加了中日韩文字检测机制,并在检测到时回退到更昂贵的模型进行清理,最终实现约42%的净节省。
一位运行双语新闻推送机器人(每天约需调用936次LLM)的开发者,在OpenRouter上寻找更便宜的模型。在17个免费模型中,只有3个可用,且存在速度慢或缺乏JSON支持等问题。随后,开发者发现了付费的中国模型inclusionai/ling-2.6-flash,每百万输入令牌仅0.010美元,比之前使用的deepseek-v4-flash(0.098美元)便宜8倍,速度快4倍。然而,部署后,机器人开始在俄语新闻标题中输出中文字符。测试显示,17%的短摘要和57%的长分析包含中文文本。解决方案是添加一个CJK(中日韩统一表意文字)正则表达式检测器:如果发现中文字符,则将该请求重新发送至干净的deepseek-v4-flash模型。修复后,污染率降至0%(0/8)。开发者还学到了三个意外教训:成本取决于新闻来源而非用户数量;即使对价格为0的模型,账户余额为负时免费模型也会停止工作;缺少max_tokens参数会导致巨大的令牌预留。最终流程中,ling-2.6-flash作为主要模型,deepseek-v4-flash作为CJK清洗的备用模型,gemma:free作为最后手段。月度成本从14.8美元降至约8.6美元,节省了42%,而非预期的8倍,原因是长分析需要双重付费。
来源: Habr — хаб ML — 原文
我们之前关于此话题的帖子 ↓
最新新闻