La gramática oculta de los modelos de lenguaje: tres descubrimientos sobre la estructura de la generación de texto

El autor realizó un estudio de dos años sobre la estructura interna de los modelos de lenguaje y descubrió que la generación de texto sigue caminos gramaticales estables, los modelos construyen un mapa interno de la dirección de la oración y la incertidumbre surge solo en etapas posteriores de la selección de palabras específicas.

OpenAI