Moonshot AI dévoile Kimi K3 : une avancée en matière d'échelle, de performance et de coût pour les modèles frontaliers chinois

Moonshot AI a publié Kimi K3, un nouveau modèle de pointe qui atteint des performances de premier ordre tout en réduisant considérablement le coût d'inférence. Le modèle obtient des scores compétitifs sur des benchmarks tels que AIME, GPQA et MMLU-Pro, et utilise une architecture sparse Mixture-of-Experts avec 44 milliards de paramètres activés.

Moonshot AI, la startup chinoise derrière l'assistant Kimi, a dévoilé son dernier modèle de pointe, Kimi K3. Le modèle est construit sur une architecture sparse Mixture-of-Experts (MoE) avec un total de 123 milliards de paramètres, dont 44 milliards sont activés par token. Kimi K3 atteint des résultats de pointe sur plusieurs benchmarks de raisonnement, notamment 94,1 sur AIME 2024, 89,2 sur GPQA Diamond et 79,1 sur MMLU-Pro. Il obtient également 98,6 sur MATH-500 et 65,2 sur LiveCodeBench. Selon Moonshot AI, le coût d'inférence de Kimi K3 n'est que de 0,7 yuan par million de tokens en entrée, soit environ 1 centime, ce qui le rend nettement moins cher que les modèles comparables. L'entreprise affirme que le modèle surpasse le modèle o1 d'OpenAI et le modèle R1 de DeepSeek sur plusieurs indicateurs, tout en étant plus rentable. Kimi K3 prend en charge une fenêtre de contexte de 128 000 tokens et est initialement disponible via une API, avec un déploiement sur l'application Kimi prévu pour l'avenir.

Source: Moonshot Kimi (GNews) — original