러시아, 인간처럼 텍스트를 읽는 AI 특허 취득
Innopolis 대학의 연구 팀이 13개 언어로 읽는 동안 안구 움직임을 예측하고, 그러한 모델을 평가하며, 언어 모델 훈련 속도를 높이는 AI 시스템에 대한 특허 3건을 받았습니다. 이 기술은 시선 데이터를 인간 피드백에서의 강화 학습과 통합하여 효율성과 정확성을 향상시킵니다.
연구진이 인간이 텍스트를 읽을 때의 시선을 예측하는 시스템에 대한 특허를 받았습니다. 이 시스템은 단일 신경망 아키텍처를 기반으로 영어, 한국어, 독일어를 비롯한 10개 이상의 언어로 사람이 텍스트를 읽는 방식을 예측합니다. 이 아키텍처는 다국어 모델과 원어민의 안구 운동 기록으로 학습된 트랜스포머를 결합한 것입니다. 이 시스템은 합성 시선 고정 시퀀스를 생성하고 단어 건너뛰기 확률, 초기 읽기 시 고정 횟수 등의 기준으로 이를 평가합니다. Innopolis University의 의학 AI 연구실 책임자인 Ilya Pershin은 실제 안구 추적 기록이 부족할 때 합성 데이터가 종종 유일한 해결책이며, 이를 통해 학습 비용을 절감하고 이전에는 불가능했던 작업을 가능하게 한다고 설명했습니다. 한 연구에서 이 접근 방식은 엑스레이 이미지에 대한 시선 예측 정확도를 20~30% 향상시켰습니다. 두 번째 특허는 읽기 중 안구 운동 생성을 평가하기 위한 통합 프로토콜을 다루며, 공간적 및 시간적 특성별로 시선 궤적을 비교하고 전체 텍스트, 단어, 문장 수준에서 특징을 분석합니다. 세 번째 특허는 합성 시선 궤적과 함께 언어 모델을 학습시키는 방법을 설명하며, 인간 피드백 기반 강화 학습에 시각적 주의 데이터를 통합합니다. 연구실 전문가인 Ivan Stebakov는 보상 모델이 실제 인간의 선호도를 기반으로 학습되어 대형 언어 모델의 응답을 자동으로 평가하며, 학습 속도를 1.5~2배 높이고, 계산 비용을 절감하며, 인간의 주의 패턴 재현 정확도 93%를 달성하고 저리소스 언어에서도 작동한다고 밝혔습니다.
출처: Hightech.fm —
원문
