Nvidia bringt Open-Weight-Modell Nemotron 3.5 Lightning auf den Markt, das auf einer einzelnen GPU läuft

Ende Juli sprach sich Nvidia-CEO Jensen Huang für Open-Source-KI-Modelle aus, und nun hat das Unternehmen das leichte Modell Nemotron 3.5 Lightning vorgestellt, das nur eine einzelne GPU in einem Laptop oder Desktop-PC benötigt. Unternehmenskunden können das Modell ohne Genehmigung frei herunterladen, verwenden und modifizieren. Nvidia profitiert davon, weil die Nutzer weiterhin GPU-Hardware benötigen, die das Unternehmen verkauft. Huang glaubt, dass offene Modelle Unternehmen Kontrolle geben, Wettbewerb fördern, Preise senken und die Cybersicherheit sowie die nationale Souveränität stärken. Nvidia schloss sich Microsoft einem Konsortium an, das Open-Source-Modelle und -Software in der Cybersicherheit fördert. Auch Meta-Gründer Mark Zuckerberg unterstützte Open-Source-Modelle. Nemotron 3.5 Lightning zielt auf agentische Anwendungen ab und wurde von CrowdStrike, CodeRabbit und Harvey getestet. Es ist auf Hugging Face und auf Nvidias Website verfügbar, zusammen mit dem Dienstprogramm NeMo Switchyard zur Auswahl optimaler KI-Modelle. Die leichte Variante wurde durch Destillation aus größeren Nemotron-Modellen verbessert.