추론 시간 확장의 유형: LLM 추론 향상을 위한 방법
OpenAI
추론 시간 확장은 추론 중 더 많은 컴퓨팅 자원을 사용하여 LLM 답변 품질을 향상시킵니다. 이 글은 접근 방식을 분류하고 최근 논문을 검토하며, 주요 LLM 제공업체들이 이러한 기술에 의존하고 있음을 보여줍니다.
추론 시간 스케일링은 추론 시 추가 연산을 할당하여 대규모 언어 모델의 성능을 향상시키는 주요 방법이 되었습니다. 이 글은 기법들을 생각의 연쇄 프롬프팅, 자기 일관성, Best-of-N 순위 매기기, 검증기를 사용한 거부 샘플링, 자기 개선, 해결 경로 검색 등의 범주로 분류합니다. 또한 최근 논문들을 개괄하고, 독점 대규모 언어 모델이 이러한 방법들을 사용한다고 언급합니다. 저자는 이 주제에 대한 책의 한 장(chapter)을 두 부분으로 나누어 조기 공개로 제공하며, 최종 장(chapter)에 포함되지 않은 추가 아이디어와 메모를 공유합니다.
출처: Sebastian Raschka —
원문