NVIDIA Vera Rubin: Maximum Intelligence per Dollar for Agentic AI

NVIDIA dalam blognya menjelaskan bahwa untuk AI agen, pasca-pelatihan (post-training) bukan lagi tahap sekali jadi, melainkan proses berkelanjutan. Tidak seperti model generatif, model agen harus merencanakan, menggunakan alat, dan beradaptasi dengan kondisi yang berubah. Pasca-pelatihan mencakup siklus forward dan backward pass, di mana model melalui pembelajaran penguatan (reinforcement learning, RL) meningkatkan kemampuannya. Metrik kunci menjadi 'kecerdasan per dolar' (intelligence per dollar), yang menggabungkan biaya per token (cost per token) saat inferensi dan efisiensi pelatihan. Platform NVIDIA Vera Rubin, penerus Blackwell, dirancang untuk skenario ini: platform ini memungkinkan pelatihan model terbesar dengan jumlah GPU seperempat lebih sedikit. Sebagai contoh, model Nemotron 3 Ultra dengan 550 miliar parameter (arsitektur MoE) mencapai skor 71,7% pada SWE-bench verified. Platform Vera Rubin menggunakan integrasi dengan pustaka NeMo (NeMo Gym, NeMo RL) dan dioptimalkan untuk deployment paralel ribuan lingkungan. Mitra-mitranya termasuk Prime Intellect (peningkatan throughput 30% pada prosesor Vera dibandingkan x86), Perplexity (tumpukan RL dengan sinkronisasi bobot RDMA dalam waktu kurang dari 2 detik), dan Together AI (pasca-pelatihan sebagai layanan pada platform AI Native Cloud).