Nvidia lanceert open-weight Nemotron 3.5 Lightning die op één GPU draait

Eind juli sprak Nvidia-CEO Jensen Huang zijn steun uit voor open-source AI-modellen, en nu heeft het bedrijf het lichtgewicht Nemotron 3.5 Lightning-model onthuld, dat slechts één GPU in een laptop of desktop-PC nodig heeft. Zakelijke klanten kunnen het model vrij downloaden, gebruiken en wijzigen zonder goedkeuring. Nvidia profiteert omdat gebruikers nog steeds GPU-hardware nodig hebben, die het bedrijf verkoopt. Huang gelooft dat open modellen bedrijven controle geven, concurrentie stimuleren, prijzen verlagen en cyberveiligheid en nationale soevereiniteit verbeteren. Nvidia sloot zich aan bij Microsoft in een consortium dat open-source modellen en software in cyberveiligheid promoot. Mark Zuckerberg, oprichter van Meta, steunde ook open-source modellen. Nemotron 3.5 Lightning is gericht op agentische toepassingen en is getest door CrowdStrike, CodeRabbit en Harvey. Het is beschikbaar op Hugging Face en de site van Nvidia, naast de NeMo Switchyard-tool voor het selecteren van optimale AI-modellen. De lichtgewicht variant is verbeterd door distillatie van grotere Nemotron-modellen.