NVIDIA Vera Rubin: Maximum Intelligence per Dollar for Agentic AI
NVIDIA
Prime Intellect
Perplexity AI
Together AI
NVIDIA introduced the Vera Rubin platform, designed for continuous post-training of agentic AI models. The key metric becomes 'intelligence per dollar', combining token cost and training efficiency. The platform promises a fourfold reduction in GPU count compared to Blackwell.
NVIDIA ने अपने ब्लॉग में समझाया है कि एजेंटिक AI के लिए पोस्ट-ट्रेनिंग (post-training) अब एक बार का चरण नहीं रह गया है, बल्कि एक सतत प्रक्रिया है। जनरेटिव मॉडलों के विपरीत, एजेंट मॉडलों को योजना बनाने, उपकरणों का उपयोग करने और बदलती परिस्थितियों के अनुकूल होने की आवश्यकता होती है। पोस्ट-ट्रेनिंग में फॉरवर्ड और बैकवर्ड पास के चक्र शामिल होते हैं, जहाँ मॉडल रीइन्फोर्समेंट लर्निंग (reinforcement learning, RL) के माध्यम से अपने कौशल में सुधार करता है। प्रमुख मीट्रिक 'इंटेलिजेंस पर डॉलर' (intelligence per dollar) बन गया है, जो इन्फ्रेंस के दौरान प्रति टोकन लागत (cost per token) और प्रशिक्षण दक्षता को जोड़ता है। NVIDIA का Vera Rubin प्लेटफ़ॉर्म, जो Blackwell का उत्तराधिकारी है, इस परिदृश्य के लिए डिज़ाइन किया गया है: यह चार गुना कम GPU के साथ सबसे बड़े मॉडलों को प्रशिक्षित करने की अनुमति देता है। उदाहरण के तौर पर, 550 बिलियन पैरामीटर वाले (MoE आर्किटेक्चर) Nemotron 3 Ultra मॉडल का हवाला दिया गया है, जिसने SWE-bench verified पर 71.7% स्कोर किया। Vera Rubin प्लेटफ़ॉर्म NeMo लाइब्रेरियों (NeMo Gym, NeMo RL) के साथ एकीकरण का उपयोग करता है और हज़ारों वातावरणों के समानांतर डिप्लॉयमेंट के लिए अनुकूलित है। पार्टनर हैं—Prime Intellect (Vera प्रोसेसर पर x86 की तुलना में 30% थ्रूपुट वृद्धि), Perplexity (2 सेकंड से कम में RDMA वेट सिंक्रोनाइज़ेशन के साथ RL स्टैक), और Together AI (AI Native Cloud प्लेटफ़ॉर्म पर एक सेवा के रूप में पोस्ट-ट्रेनिंग)।
स्रोत: NVIDIA blog —
मूल