Nvidia Meluncurkan Nemotron 3.5 Lightning Berbobot Terbuka yang Berjalan pada GPU Tunggal

Pada akhir Juli, CEO Nvidia Jensen Huang menyuarakan dukungan terhadap model AI sumber terbuka, dan kini perusahaan tersebut telah meluncurkan model ringan Nemotron 3.5 Lightning yang hanya memerlukan satu GPU di laptop atau PC desktop. Pelanggan perusahaan dapat dengan bebas mengunduh, menggunakan, dan memodifikasi model tersebut tanpa persetujuan. Nvidia diuntungkan karena pengguna tetap membutuhkan perangkat keras GPU yang mereka jual. Huang percaya bahwa model terbuka memberi perusahaan kendali, memicu persaingan, menurunkan harga, serta meningkatkan keamanan siber dan kedaulatan nasional. Nvidia bergabung dengan Microsoft dalam konsorsium yang mempromosikan model dan perangkat lunak sumber terbuka di bidang keamanan siber. Pendiri Meta, Mark Zuckerberg, juga mendukung model sumber terbuka. Nemotron 3.5 Lightning ditujukan untuk aplikasi agenik dan telah diuji oleh CrowdStrike, CodeRabbit, dan Harvey. Model ini tersedia di Hugging Face dan situs Nvidia, bersama dengan utilitas NeMo Switchyard untuk memilih model AI yang optimal. Varian ringan ini ditingkatkan melalui distilasi dari model Nemotron yang lebih besar.