Razonamiento Paralelo Adaptativo: Un Nuevo Paradigma para la Escalabilidad Eficiente de la Inferencia en IA

La entrada del blog de BAIR presenta el Razonamiento Paralelo Adaptativo (APR, por sus siglas en inglés) como un paradigma para escalar la inferencia de los Modelos de Lenguaje de Gran Tamaño (LLM, por sus siglas en inglés) de manera eficiente. El razonamiento secuencial tradicional escala linealmente con la exploración, lo que provoca problemas de latencia y de rotación de contexto. Los métodos paralelos existentes, como la autoconsistencia, el Árbol de Pensamientos o la Búsqueda en Árboles de Montecarlo (MCTS, por sus siglas en inglés), imponen estructuras paralelas fijas, desperdiciando cómputo en problemas simples. El APR, pionero en Pan et al. (2025), entrena modelos mediante Aprendizaje por Refuerzo (RL, por sus siglas en inglés) para generar tokens especiales que controlan cuándo razonar en paralelo o secuencialmente. ThreadWeaver (Lian et al., 2025) es un método APR. La ejecución de la inferencia utiliza un diseño de bifurcación y unión (fork-join), con enfoques como Multiverse que modifican el motor de inferencia para reutilizar el caché de clave-valor (KV cache) durante la síntesis, mientras que otros, como los métodos basados en decodificación de ramas, evitan modificaciones del motor. Beneficios clave: ausencia de heurísticas específicas del dominio, redundancia reducida y paralelismo adaptativo por complejidad de la tarea.