Развертывание Kimi K3 на AWS
Moonshot AI
NVIDIA
Компания Moonshot AI выпустила Kimi K3 — модель MoE с 2,8 триллиона параметров, опубликованную в открытом доступе. В блоге AWS описывается развертывание этой модели на платформах SageMaker HyperPod или Amazon EKS с использованием инстансов p6-b300 на базе графических процессоров NVIDIA B300 Blackwell Ultra, а также сервиса vLLM и квантования MXFP4.
27 июля 2026 года компания Moonshot AI выпустила открытую весовую модель Kimi K3 — смесь экспертов (Mixture of Experts, MoE) с 2,8 триллиона параметров. В ней используются архитектурные инновации, такие как Kimi Delta Attention и Gated Multi Head Latent Attention, при этом на каждый токен активируется 16 из 896 экспертов (104 миллиарда активных параметров). Модель поддерживает контекстное окно в
Показать ещё ↓
Источник: AWS ML blog —
оригинал