Kimi K3, 2조 8천억 파라미터 모델로 글로벌 랭킹 1위

Moonshot AI가 2.8조 개의 파라미터를 가진 대규모 언어 모델 Kimi K3를 출시했으며, 이 모델은 LiveCodeBench, AIME, MATH-500을 포함한 여러 업계 벤치마크에서 최고 순위를 달성했습니다. Kimi K3는 이러한 평가에서 GPT-4o 및 다른 주요 모델들을 능가합니다. 이 모델의 아키텍처는 높은 희소성을 가진 Mixture of Experts(MoE)와 긴 사고 사슬(Long Chain-of-Thought, Long-CoT)을 이용한 고급 강화 학습을 채택하여 추론 및 코딩 능력을 향상시킵니다. 대규모 언어 모델의 새로운 글로벌 순위에서 Kimi K3는 중국 모델 중 최고 등급을 받았습니다. Moonshot AI는 이것이 그들의 혁신 여정의 시작에 불과하다고 강조합니다.