추론 AI 모델: 작동 방식과 중요성
OpenAI
Anthropic
Google/DeepMind
DeepSeek
대규모 추론 모델(LRM)은 인간의 느린 사고를 시뮬레이션하여 복잡한 문제 해결에서 기존 대규모 언어 모델(LLM)을 능가합니다. 이들의 작동은 사고 사슬 추론, 추론 중 추가 계산, 강화 학습에 기반합니다. 인상적인 결과에도 불구하고, 인공 일반 지능(AGI)으로 가는 길은 여전히 열려 있습니다.
2024년 가을, OpenAI는 o1 모델을 발표하여 큰 반향을 일으켰습니다. AIME 수학 시험에서 단일 시도 모드로 74%를 기록했고, 합의 선택 방식으로는 최대 93%에 달한 반면, GPT-4o는 12%의 문제만 해결했습니다. GPQA Diamond 벤치마크에서 o1은 78%를 달성하여 평균 전문가를 능가했습니다. 이러한 결과는 카너먼이 설명한 느린 '시스템 2' 사고를 모방하는 대규모 추론 모델(Large Reasoning Model, LRM)의 능력을 보여줍니다. LRM으로 분류되는 다른 모델로는 Anthropic(클로드 페이블 5, 미토스 5, 오퍼스 4.8), 구글의 제미나이 3.1 프로, 딥시크 R1, GLM-5.2 등이 있습니다. 빠른 '시스템 1'처럼 작동하는 고전적인 자기회귀 대규모 언어 모델(Large Language Model, LLM)과 달리, 추론 모델은 사고의 연쇄, 추론 시 추가 계산(테스트 타임 컴퓨트), 강화 학습을 사용합니다. 이 모델은 사용자에게 보이지 않는 추론 토큰을 생성하여 요청 처리 시간이 1분 이상으로 늘어납니다. 연구에 따르면 '더 오래 생각하기' 전략이 단순히 모델 크기를 키우는 것보다 더 효과적입니다. 충분한 사고 시간이 주어지면 14배 더 큰 LLM과 동등한 성능을 낼 수 있기 때문입니다. 중국의 딥시크-R1은 추론을 모델 자체에 직접 통합하여 외부 '비평가'를 없앴습니다.
출처: 3DNews —
원문