Kimi K2 开源全球最大参数规模模型

Moonshot AI宣布将其Kimi K2模型完全开源，这是全球参数量最大的开源模型。该模型现已在多个云平台上可用，包括腾讯云、ModelScope、Replicate和CrossCompute。Kimi K2拥有1万亿参数，并采用了创新的MoBA（混合块注意力）架构，该架构优化了长上下文的处理。该模型在15.5万亿个令牌上进行了训练，在编码、数学和科学任务方面表现出高性能。Kimi K2在各种测试中超越了GPT-4o和Claude 3.5 Sonnet等模型，同时推理成本比GPT-4o低7倍。该模型根据开源许可证可用于商业用途，允许开发者和企业将其用于商业目的。