Adaptive Parallel Reasoning: 대규모 언어 모델 효율적 추론 확장을 위한 새로운 패러다임

BAIR 블로그 게시물에서는 적응형 병렬 추론(APR)을 LLM 추론을 효율적으로 확장하기 위한 패러다임으로 소개합니다. 기존의 순차적 추론은 탐색에 따라 선형적으로 확장되어 지연 시간과 컨텍스트 순환 문제를 유발합니다. 자기 일관성, 생각의 나무 또는 몬테카를로 트리 검색(MCTS)과 같은 기존 병렬 방법은 고정된 병렬 구조를 강제하여 간단한 문제에서 계산을 낭비합니다. Pan 외(2025)가 개척한 APR은 강화 학습을 통해 모델을 훈련하여 병렬 또는 순차적으로 추론할 시기를 제어하는 특수 토큰을 출력하도록 합니다. ThreadWeaver(Lian 외, 2025)는 APR 방법 중 하나입니다. 추론 실행은 포크-조인 디자인을 사용하며, Multiverse와 같은 접근 방식은 합성 중 KV 캐시를 재사용하기 위해 추론 엔진을 수정하는 반면, 분기 디코딩 기반 방법과 같은 다른 접근 방식은 엔진 수정을 피합니다. 주요 이점: 도메인별 휴리스틱이 필요 없으며, 중복성이 줄어들고, 작업 복잡성에 따라 적응적으로 병렬화됩니다.