모델 RSS

모델 🇷🇺

Kimi K3 작동 원리: 2.8조 파라미터, 선형 어텐션, 백만 토큰 에이전트

Moonshot AI가 Kimi K3 모델의 가중치를 공개했습니다. 이 모델은 Mixture of Experts 아키텍처를 기반으로 한 멀티모달 모델로, 총 2.8조 개의 파라미터 중 토큰당 1040억 개가 활성화됩니다. 특정 프로그래밍 및 도구 사용 벤치마크에서 경쟁사를 능가하지만, 평균적으로는 일부 경쟁사에 뒤처집니다.

Moonshot AIMoonshot AI AnthropicAnthropic OpenAIOpenAI
Habr — хаб ИИ27.07 · 23:03
새로운 뉴스