Kimi K3の仕組み:2.8兆パラメータ、線形注意機構、そして百万トークンエージェント
Moonshot AIがKimi K3モデルの重みを公開しました。このモデルは2.8兆パラメータを持つ混合専門家アーキテクチャに基づくマルチモーダルモデルで、トークンあたり1040億パラメータが活性化されます。特定のプログラミングおよびツール使用ベンチマークでは競合他社を上回りますが、平均的には一部の競合に劣ります。
Moonshot AI
Anthropic
OpenAI
Moonshot AIがKimi K3モデルの重みを公開しました。このモデルは2.8兆パラメータを持つ混合専門家アーキテクチャに基づくマルチモーダルモデルで、トークンあたり1040億パラメータが活性化されます。特定のプログラミングおよびツール使用ベンチマークでは競合他社を上回りますが、平均的には一部の競合に劣ります。
Moonshot AI
Anthropic
OpenAI
Researchers from UK AISI and Timaeus founded the non-profit organization Sequent to develop alignment methods ensuring the safety of superintelligent systems. Cognition released the FrontierCode benchmark for evaluating code quality, where the best model, Claude Opus 4.8, scored only 13.4% on the hardest level. Also presented are the ChinaHeritaQA dataset for evaluating VLM cultural knowledge about Chinese UNESCO sites and the Xiaomi MiMo-V2.5-Pro-UltraSpeed model with a generation speed of 1000 tokens per second.
Cognition
Alibaba/Qwen
Anthropic
OpenAI