Развертывание Kimi K3 на Amazon SageMaker HyperPod и Amazon EKS
Moonshot AI выпустила Kimi K3 — открытую модель с 2,8 трлн параметров, первую в классе 3 трлн. AWS предлагает два способа развертывания: SageMaker HyperPod и Amazon EKS. Модель требует специализированных GPU-инстансов p6-b300 и использует vLLM для инференса.
AWS ML blog01.08 · 01:03


