NVIDIA lanceert Nemotron 3.5 Lightning en NeMo Switchyard voor efficiënte agentische AI
NVIDIA
OpenAI
Anthropic
NVIDIA heeft Nemotron 3.5 Lightning geïntroduceerd, een mixture-of-experts-model met 30 miljard parameters, geoptimaliseerd voor agentische taken met hoge volumes. Het levert tot 4x snellere output en 30% snellere taakvoltooiing. Daarnaast heeft het bedrijf NeMo Switchyard uitgebracht, een open-source modelrouteringsbibliotheek voor intelligente aanvraagdistributie in agentworkflows. Samen bieden ze meer controle over implementatie en efficiëntie in verschillende omgevingen.
NVIDIA breidt zijn Nemotron 3-modelfamilie uit met de release van Nemotron 3.5 Lightning, een mixtuur-van-experts-model met 30 miljard parameters, ontworpen voor gespecialiseerde taken binnen grotere multi-agent systemen. Het model levert tot 4x snellere outputsnelheid en 30% snellere agentische taakvoltooiing vergeleken met andere modellen in zijn klasse. Het is volledig aanpasbaar en kan met NVIDIA NeMo worden nagekwalificeerd op de domeingegevens, tools en workflows van een organisatie. Het bedrijf bracht ook NeMo Switchyard uit, een open-sourcebibliotheek voor modelroutering die prompts automatisch doorstuurt naar het meest capabele en efficiënte model voor elke stap van een agentwerkstroom. Interne benchmarks tonen aan dat NeMo Switchyard fronteeniveau-nauwkeurigheid handhaaft terwijl de kosten voor taakvoltooiing worden teruggebracht tot bijna een derde van die van Opus 4.8 alleen. Partners zoals CrowdStrike, Harvey, CodeRabbit, Lila Sciences en Fastino Labs passen Nemotron 3.5 Lightning aan voor hun workloads, terwijl Boomi, Cadence, Cognition, Kong, LangChain, LiteLLM, Nous Research, Ramp, Siemens en Classmethod NeMo Switchyard integreren of evalueren.
Bron: NVIDIA blog —
origineel