NVIDIA Groq 3：新AI平台中的SRAM、解耦与确定性计算

NVIDIA以200亿美元收购Groq后，将LPU加速器集成到Vera Rubin平台中，实现了解耦的异构AI推理。新的Groq 3 LPX机架系统结合了256个LPU，用于快速、确定性的令牌生成，而Vera Rubin NVL72则处理灵活的训练和推理。该平台针对低延迟交互式AI和多智能体工作负载，承诺在每用户400 TPS下性能比Grace Blackwell NVL72快达35倍。

NVIDIA Groq

NVIDIA发布Vera Rubin POD集群：五机架、七芯片、1.2千兆亿晶体管

NVIDIA推出了基于第三代MGX架构的Vera Rubin POD AI集群，包含五个专用机架平台和七种芯片类型。该系统集成了40个机架、1.2千兆亿晶体管和1152颗Rubin GPU，提供60 EFLOPS性能和10 PB/s互连速度。集群包括NVL72、LPX、Vera、STX和SPX机架，面向代理型AI工作负载。

NVIDIA Groq