Categorías de Escalado en Tiempo de Inferencia para Mejorar el Razonamiento de los LLM
OpenAI
El escalado en tiempo de inferencia mejora la calidad de las respuestas de los modelos de lenguaje de gran tamaño (LLM) al utilizar más cómputo durante la inferencia. Este artículo categoriza los enfoques y revisa artículos recientes, mostrando que los principales proveedores de LLM dependen de estas técnicas.
La ampliación en tiempo de inferencia se ha convertido en un método clave para mejorar el rendimiento de los LLM al asignar cómputo adicional durante la inferencia. El artículo agrupa las técnicas en categorías como la generación de cadenas de pensamiento (Chain-of-Thought), la autoconsistencia (Self-Consistency), la clasificación de los mejores N (Best-of-N), el muestreo por rechazo con un verificador (Rejection Sampling with a Verifier), la autorrefinación (Self-Refinement) y la búsqueda sobre trayectorias de soluciones (Search Over Solution Paths). También presenta una visión general de artículos recientes y señala que los LLM propietarios utilizan estos métodos. El autor dividió un capítulo de libro sobre este tema en dos partes, disponibles en acceso anticipado, y comparte ideas y notas adicionales que no encajaron en el capítulo final.
Fuente: Sebastian Raschka —
original