Russland patentiert KI, die Texte wie ein Mensch liest

Forscher haben Patente für ein System erhalten, das den Blick von Menschen beim Lesen vorhersagt. Es sagt voraus, wie eine Person Text auf Englisch, Koreanisch, Deutsch und zehn weiteren Sprachen lesen wird, basierend auf einer einzigen neuronalen Netzwerkarchitektur, die ein mehrsprachiges Modell mit einem Transformer kombiniert, der mit Blickbewegungsaufzeichnungen von Muttersprachlern trainiert wurde. Das System erzeugt synthetische Blickfixationssequenzen und bewertet sie anhand der Wortüberspringungswahrscheinlichkeit, der Anzahl der Fixationen beim ersten Lesen und anderer Kriterien. Ilya Pershin, Leiter des Labors für KI in der Medizin an der Universität Innopolis, erklärte, dass synthetische Daten oft die einzige Lösung sind, wenn echte Eye-Tracking-Aufzeichnungen rar sind, was das Training billiger macht und bisher unmögliche Aufgaben ermöglicht. In einer Studie verbesserte dieser Ansatz die Genauigkeit der Blickvorhersage auf Röntgenbildern um 20–30 %. Das zweite Patent betrifft ein einheitliches Protokoll zur Bewertung der Erzeugung von Augenbewegungen beim Lesen, das Blicktrajektorien nach räumlichen und zeitlichen Merkmalen vergleicht und Merkmale auf der Ebene des gesamten Texts, des Worts und des Satzes analysiert. Das dritte Patent beschreibt ein Verfahren zum Training von Sprachmodellen mit synthetischen Blicktrajektorien, das visuelle Aufmerksamkeitsdaten in Reinforcement Learning durch menschliches Feedback integriert. Iwan Stebakow, ein Laborspezialist, sagte, dass ein Belohnungsmodell mit echten menschlichen Präferenzen trainiert wird, um Antworten eines großen Sprachmodells automatisch zu bewerten, was das Training um das 1,5- bis 2-Fache beschleunigt, die Rechenkosten senkt, eine 93-prozentige Genauigkeit bei der Nachbildung menschlicher Aufmerksamkeitsmuster erreicht und auch für Sprachen mit geringen Ressourcen funktioniert.