NVIDIA запускает Nemotron 3.5 Lightning и NeMo Switchyard для эффективного агентного ИИ
Компания NVIDIA представила модель Nemotron 3.5 Lightning с 30 миллиардами параметров, использующую архитектуру смеси экспертов (Mixture of Experts, MoE), оптимизированную для высоконагруженных агентных задач. Она обеспечивает до 4 раз более быстрый вывод результатов и на 30% более быстрое выполнение задач. Также была выпущена библиотека NeMo Switchyard с открытым исходным кодом для маршрутизации моделей, обеспечивающая интеллектуальное распределение запросов в агентных рабочих процессах. Вместе они предоставляют больше контроля над развертыванием и эффективностью в различных средах.
NVIDIA расширяет семейство моделей Nemotron 3 выпуском Nemotron 3.5 Lightning — модели на основе смеси экспертов с 30 миллиардами параметров, предназначенной для специализированных задач в составе более крупных мультиагентных систем. Модель обеспечивает до 4 раз более высокую скорость генерации и на 30% более быстрое выполнение агентных задач по сравнению с аналогами в своем классе. Она полностью
Показать ещё ↓
Источник: NVIDIA blog —
оригинал