俄罗斯为像人类一样阅读文本的AI申请专利

研究人员已获得一项系统的专利，该系统可在阅读过程中预测人类注视点。它基于一个单一的神经网络架构，结合了多语言模型和基于母语者眼动记录训练的变换器，能预测人们如何阅读英语、韩语、德语及其他十种语言的文本。该系统生成合成的注视点序列，并通过跳过单词的概率、首次阅读期间的注视次数等标准进行评估。Innopolis大学医学人工智能实验室负责人Ilya Pershin解释说，当真实眼动追踪记录稀缺时，合成数据往往是唯一解决方案，这使训练成本更低，并使以前不可能的任务得以实现。在一项研究中，这种方法将X射线图像上的注视点预测精度提高了20%至30%。第二项专利涵盖了一个统一的协议，用于评估阅读期间眼动生成情况，通过空间和时间特征比较注视轨迹，并在全文、单词和句子级别分析特征。第三项专利描述了一种使用合成注视轨迹训练语言模型的方法，将视觉注意力数据整合到基于人类反馈的强化学习中。实验室专家Ivan Stebakov表示，基于真实人类偏好训练一个奖励模型，可以自动评估大语言模型的回应，将训练速度提高1.5至2倍，降低计算成本，在重现人类注意力模式方面达到93%的准确率，并且即使对于低资源语言也能有效工作。