Moonshot AI, 중국 최첨단 모델의 규모, 성능 및 비용에서 획기적 발전을 이룬 Kimi K3 공개

Moonshot AI가 새로운 최첨단 모델 Kimi K3를 출시했습니다. 이 모델은 최고 수준의 성능을 달성하면서도 추론 비용을 크게 절감합니다. AIME, GPQA, MMLU-Pro 등의 벤치마크에서 경쟁력 있는 점수를 보여주며, 44B의 활성화 파라미터를 가진 희소 혼합 전문가 아키텍처를 사용합니다.

중국 스타트업 Moonshot AI가 자사의 AI 어시스턴트 Kimi를 구동하는 최신 프런티어 모델인 Kimi K3를 공개했습니다. 이 모델은 총 123B 파라미터를 가진 희소 혼합 전문가(Mixture-of-Experts, MoE) 아키텍처를 기반으로 하며, 토큰당 44B의 파라미터가 활성화됩니다. Kimi K3는 AIME 2024에서 94.1점, GPQA Diamond에서 89.2점, MMLU-Pro에서 79.1점을 기록하며 여러 추론 벤치마크에서 최첨단 결과를 달성했습니다. 또한 MATH-500에서 98.6점, LiveCodeBench에서 65.2점을 기록했습니다. Moonshot AI에 따르면, Kimi K3의 추론 비용은 입력 토큰 100만 개당 0.7위안(약 1센트)에 불과하여, 비교 가능한 모델보다 훨씬 저렴합니다. 회사는 이 모델이 여러 지표에서 OpenAI의 o1과 DeepSeek의 R1을 능가하면서도 비용 효율성이 더 높다고 주장합니다. Kimi K3는 128K 컨텍스트 윈도우를 지원하며, 초기에는 API를 통해 제공되며, 추후 Kimi 앱에도 배포될 예정입니다.

출처: Moonshot Kimi (GNews) — 원문