硬件与推理模型 🇺🇸 24.07.2026 11:04

NVIDIA Vera Rubin:面向代理式AI实现每美元最大智能

NVIDIANVIDIA Prime IntellectPrime Intellect Perplexity AIPerplexity AI Together AITogether AI
NVIDIA推出了Vera Rubin平台,专为代理式AI模型的持续后训练而设计。关键指标变为“每美元智能”,结合了令牌成本和训练效率。该平台承诺相比Blackwell将GPU数量减少四倍。
NVIDIA 在博客中解释说,对于智能体 AI 来说,后训练不再是单次阶段,而是一个持续的过程。与生成式模型不同,智能体模型需要规划、使用工具并适应不断变化的条件。后训练包括前向传播和反向传播的循环,其中模型通过强化学习提升其技能。关键指标变成了“每美元智能值”,它结合了推理时的每令牌成本和训练效率。NVIDIA Vera Rubin 平台是 Blackwell 的继任者,专为这一场景设计:它能够用四分之一数量的 GPU 训练最大的模型。以拥有 5500 亿参数(MoE 架构)的 Nemotron 3 Ultra 模型为例,该模型在 SWE-bench verified 上达到了 71.7% 的成绩。Vera Rubin 平台集成了 NeMo 库(NeMo Gym、NeMo RL),并针对数千个环境的并行部署进行了优化。合作伙伴包括 Prime Intellect(在 Vera 处理器上相比 x86 实现了 30% 的吞吐量提升)、Perplexity(其强化学习堆栈通过 RDMA 同步权重,耗时不到 2 秒),以及 Together AI(在 AI 原生云平台上提供后训练即服务)。
来源: NVIDIA blog — 原文
我们之前关于此话题的帖子 ↓
最新新闻