NVIDIA bringt Nemotron 3.5 Lightning und NeMo Switchyard für effiziente agentische KI auf den Markt

NVIDIA erweitert seine Nemotron-3-Modellfamilie mit der Veröffentlichung von Nemotron 3.5 Lightning, einem Modell mit 30 Milliarden Parametern auf Basis der Mixture-of-Experts-Architektur, das für spezialisierte Aufgaben innerhalb größerer Multi-Agenten-Systeme entwickelt wurde. Das Modell bietet im Vergleich zu anderen seiner Klasse eine bis zu viermal schnellere Ausgabegeschwindigkeit und eine um 30 Prozent schnellere Bearbeitung agentischer Aufgaben. Es ist vollständig anpassbar und kann mit NVIDIA NeMo auf Basis der domänenspezifischen Daten, Tools und Arbeitsabläufe einer Organisation nachtrainiert werden. Das Unternehmen hat außerdem NeMo Switchyard veröffentlicht, eine Open-Source-Bibliothek für Modellweiterleitung, die Prompts automatisch an das fähigste und effizienteste Modell für jeden Schritt eines Agenten-Workflows weiterleitet. Interne Benchmarks zeigen, dass NeMo Switchyard eine Genauigkeit auf dem Niveau der Frontline-Modelle beibehält und gleichzeitig die Kosten für die Aufgabenerledigung auf fast ein Drittel der Kosten von Opus 4.8 allein senkt. Partner wie CrowdStrike, Harvey, CodeRabbit, Lila Sciences und Fastino Labs passen Nemotron 3.5 Lightning an ihre Arbeitslasten an, während Boomi, Cadence, Cognition, Kong, LangChain, LiteLLM, Nous Research, Ramp, Siemens und Classmethod NeMo Switchyard integrieren oder evaluieren.