NVIDIA, verimli ajan temelli yapay zeka için Nemotron 3.5 Lightning ve NeMo Switchyard'ı piyasaya sürdü
NVIDIA
OpenAI
Anthropic
NVIDIA, yüksek hacimli ajan temelli görevler için optimize edilmiş 30 milyar parametreli karışık uzman modeli Nemotron 3.5 Lightning'ı tanıttı. Bu model, çıktıda 4 kata kadar daha hızlı ve görev tamamlamada yüzde 30 daha hızlı sonuçlar sunuyor. Şirket ayrıca, ajan iş akışlarında akıllı istek dağıtımı için açık kaynaklı bir model yönlendirme kütüphanesi olan NeMo Switchyard'ı da yayınladı. Birlikte, çeşitli ortamlarda dağıtım ve verimlilik üzerinde daha fazla kontrol sağlıyorlar.
NVIDIA, Nemotron 3 model ailesini, büyük çoklu ajan sistemleri içindeki özel görevler için tasarlanmış 30 milyar parametreli bir uzman karışımı modeli olan Nemotron 3.5 Lightning'in yayınlanmasıyla genişletiyor. Model, kendi sınıfındaki diğer modellere kıyasla 4 kata kadar daha hızlı çıktı üretimi ve %30 daha hızlı ajan görevi tamamlama sunuyor. Tamamen özelleştirilebilir olan model, NVIDIA NeMo ile bir kuruluşun alan verileri, araçları ve iş akışları üzerinde sonradan eğitilebiliyor. Şirket ayrıca, bir ajan iş akışının her adımı için istemleri otomatik olarak en yetenekli ve verimli modele yönlendiren açık kaynaklı bir model yönlendirme kütüphanesi olan NeMo Switchyard'ı da yayınladı. Dahili kıyaslamalar, NeMo Switchyard'ın sınır düzeyinde doğruluğu korurken görev tamamlama maliyetini Opus 4.8'in tek başına maliyetinin neredeyse üçte birine düşürdüğünü gösteriyor. CrowdStrike, Harvey, CodeRabbit, Lila Sciences ve Fastino Labs gibi ortaklar Nemotron 3.5 Lightning'i kendi iş yükleri için özelleştiriyor; Boomi, Cadence, Cognition, Kong, LangChain, LiteLLM, Nous Research, Ramp, Siemens ve Classmethod ise NeMo Switchyard'ı entegre ediyor veya değerlendiriyor.
Kaynak: NVIDIA blog —
orijinal