Kimi K3: Moonshot AI、2.8兆パラメータモデルの重みを公開

7月27日、Moonshot AIはKimi K3の重みを公開した。これは2.8兆パラメータのMoEモデルで、896のエキスパート（トークンあたり16アクティブ、約500億のアクティブパラメータ）と100万トークンのコンテキストを持つ。Artificial Analysis指標で57点を獲得し、全体で4位、オープンモデルでは首位となり、GLM-5.2（51点）やDeepSeek V4 Pro（44点）を上回った。また、LMArena Frontend Code Arenaでも首位となり、ブラインド比較の76%でClaude Fable 5を破った。アーキテクチャはKimi Delta AttentionとAttention Residualsを採用し、同社の内部報告によればK2と比較して2.5倍のスケーリング効率を提供するとされる。重みはMXFP4量子化でも約1.4 TBを占め、マルチGPUサーバ構成が必要となる。Moonshotはさらに、FlashKDA（アテンション用CUDAカーネル）、MoonEP（エキスパート並列ライブラリ）、AgentENV（エージェントトレーニング用サンドボックス環境）をオープンソース化した。ライセンスはカスタムで、月間アクティブユーザーが1億超または月間収益が2000万ドル超の製品にはブランド表示が必要であり、MaaS（Model as a Service）プロバイダーには別途契約が必要となる。Together AI、Fireworks、DigitalOcean、Nebius、Baseten、Modal、vLLMによるサポートが発表されている。API価格は、入力トークン100万あたり3ドル、出力トークン100万あたり15ドル、キャッシュ入力は0.30ドルである。