La Russie brevète une IA qui lit les textes comme un humain

Les chercheurs ont obtenu des brevets pour un système qui prédit le regard humain pendant la lecture. Il prévoit comment une personne lira un texte en anglais, en coréen, en allemand et dans dix autres langues, en se basant sur une architecture de réseau neuronal unique combinant un modèle multilingue et un transformeur entraîné sur des enregistrements de mouvements oculaires de locuteurs natifs. Le système génère des séquences synthétiques de fixations du regard et les évalue selon la probabilité de saut de mot, le nombre de fixations lors de la première lecture, et d'autres critères. Ilya Pershin, responsable du laboratoire d'IA en médecine à l'Université d'Innopolis, a expliqué que les données synthétiques sont souvent la seule solution lorsque les enregistrements réels de suivi oculaire sont rares, ce qui rend l'entraînement moins coûteux et permet des tâches auparavant impossibles. Dans une étude, cette approche a amélioré la précision de la prédiction du regard sur des images radiographiques de 20 à 30 %. Le deuxième brevet couvre un protocole unifié pour évaluer la génération de mouvements oculaires pendant la lecture, en comparant les trajectoires du regard selon des caractéristiques spatiales et temporelles, et en analysant les caractéristiques au niveau du texte entier, du mot et de la phrase. Le troisième brevet décrit une méthode pour entraîner des modèles de langue avec des trajectoires de regard synthétiques, intégrant des données d'attention visuelle dans l'apprentissage par renforcement à partir de retours humains. Ivan Stebakov, spécialiste au laboratoire, a déclaré qu'un modèle de récompense est entraîné sur de vraies préférences humaines pour évaluer automatiquement les réponses d'un grand modèle de langue, accélérant l'entraînement de 1,5 à 2 fois, réduisant les coûts de calcul, atteignant une précision de 93 % dans la reproduction des schémas d'attention humains, et fonctionnant même pour des langues peu dotées.