在 AWS 上部署 Kimi K3
月之暗面发布了 Kimi K3,一个 2.8 万亿参数的混合专家(MoE)模型,开放权重。AWS 博客文章描述了如何在 SageMaker HyperPod 或 Amazon EKS 上使用 p6-b300 实例(搭载 NVIDIA B300 Blackwell Ultra GPU)、vLLM 推理服务以及 MXFP4 量化来部署该模型。
Moonshot AI
NVIDIA
AWS ML blog30.07 · 21:02
月之暗面发布了 Kimi K3,一个 2.8 万亿参数的混合专家(MoE)模型,开放权重。AWS 博客文章描述了如何在 SageMaker HyperPod 或 Amazon EKS 上使用 p6-b300 实例(搭载 NVIDIA B300 Blackwell Ultra GPU)、vLLM 推理服务以及 MXFP4 量化来部署该模型。
Moonshot AI
NVIDIA
本文探讨了人工智能在网络安全中扮演的五个角色:攻击加速器、被入侵的助手、泄露载体、防护盾以及直接目标。它强调了生成式人工智能如何降低攻击成本、通过智能体引入新的攻击面,并在模型之外需要确定性控制。
Ростелеком
Positive Technologies