Resumo · último mês
- NVIDIA Groq 3: SRAM, Desagregação e Determinismo na Nova Plataforma de IA
A aquisição de US$ 20 bilhões da Groq pela NVIDIA resultou na integração dos aceleradores LPU na plataforma Vera Rubin, permitindo inferência de IA desagregada e heterogênea. O novo sistema rack Groq 3 LPX combina 256 LPUs para geração de tokens rápida e determinística, enquanto o Vera Rubin NVL72 lida com treinamento e inferência flexíveis. A plataforma visa aplicações de IA interativa de baixa latência e cargas de trabalho multiagente, prometendo desempenho até 35 vezes mais rápido que o Grace Blackwell NVL72 a 400 TPS por usuário.
Fonte: dnb66 · Resumo —
original
