Kooste · viime kuukausi

1. NVIDIA Groq 3: SRAM, hajautus ja determinismi uudella AI-alustalla
   NVIDIA:n 20 miljardin dollarin Groq-osto on johtanut LPU-kiihdyttimien integrointiin Vera Rubin -alustaan, mikä mahdollistaa hajautetun, heterogeenisen AI-päätelyn. Uusi Groq 3 LPX -telinejärjestelmä yhdistää 256 LPU:ta nopeaa, determinististä token-generointia varten, kun taas Vera Rubin NVL72 hoitaa joustavan koulutuksen ja päätelyn. Alusta on suunnattu matalan viiveen interaktiiviselle AI:lle ja monitoimiagenttityökuormille, ja se lupaa jopa 35 kertaa nopeampaa suorituskykyä kuin Grace Blackwell NVL72 400 TPS:llä käyttäjää kohti.