डाइजेस्ट · पिछले महीने

1. NVIDIA Groq 3: नए AI प्लेटफॉर्म में SRAM, डिसएग्रीगेशन और डिटर्मिनिज़्म
   NVIDIA द्वारा Groq के 20 बिलियन डॉलर के अधिग्रहण के परिणामस्वरूप LPU एक्सेलेरेटर को Vera Rubin प्लेटफॉर्म में एकीकृत किया गया है, जो डिसएग्रीगेटेड, हेटेरोजीनियस AI इन्फ्रेंस को सक्षम बनाता है। नया Groq 3 LPX रैक सिस्टम तेज़, डिटर्मिनिस्टिक टोकन जनरेशन के लिए 256 LPUs को जोड़ता है, जबकि Vera Rubin NVL72 लचीली ट्रेनिंग और इन्फ्रेंस को संभालता है। यह प्लेटफॉर्म कम-लेटेंसी इंटरएक्टिव AI और मल्टी-एजेंट वर्कलोड को लक्षित करता है, जो प्रति उपयोगकर्ता 400 TPS पर Grace Blackwell NVL72 से 35x तक तेज़ प्रदर्शन का वादा करता है।