生成俄语-哈萨克语混合代码切换翻译的合成数据
Meta
来自MWS AI及多所大学的研究人员开发了一种方法，为俄语-哈萨克语代码切换（语言混合）翻译生成合成平行语料库。通过基于SimAlign的词替换技术，他们微调了NLLB-3.3B等模型，在人工评估中取得3.09/5的评分，超越了商业系统（2.80-3.49），尽管受到合成数据限制。
哈萨克斯坦常见俄语与哈萨克语之间的语码转换，但机器翻译模型几乎缺乏相关训练数据。MWS AI 与合作高校的研究人员通过现有哈萨克语-俄语平行语料库（法律文件、新闻稿）创建合成数据集，利用 SimAlign 基于词嵌入根据上下文选择替换词，人为地将俄语词汇插入哈萨克语句子中。他们基于该合成数据对多个开源模型（mBART、M2M100、NLLB-600、NLLB-3.3B）进行了微调。尽管商业系统在自动评估指标（BLEU、ChrF++、COMET）上得分更高，但采用李克特量表的人工评估显示，微调后的 NLLB-3.3B 模型达到 3.09/5，击败了两个商业应用程序编程接口（分别为 2.80 和 3.49）。该方法在增加了翻译为哈萨克语的推特数据后也提升了性能。然而，合成数据的自然度评分仅为 2.62/5，测试集较小（618 个句子），且向其他语言对的迁移性仍不确定。
来源: Habr — хаб ML —
原文