Nvidia의 오픈형 Nemotron 3.5 Lightning, 최대 지능보다 속도에 중점
NVIDIA
OpenAI
Meta
Google/DeepMind
Nvidia가 컴팩트한 오픈 가중치 모델인 Nemotron 3.5 Lightning을 출시했습니다. 이 모델은 OpenAI의 gpt-oss-120b와 비슷한 지능을 가지면서도 파라미터 수는 4분의 1에 불과합니다. 초기 테스트에서 최종 NVFP4 가중치로 초당 거의 670토큰을 처리하는 등 매우 빠른 속도를 자랑하며, 비교 대상 모델 중 최고 성능을 기록했습니다.
엔비디아가 네모트론 3.5 라이트닝을 출시했다. 이는 새로운 네모트론 3.5 시리즈의 첫 번째 모델로, 네모트론 3 나노 30B A3B의 직접적인 후속작이다. 이 모델은 기존 모델의 하이브리드 맘바-트랜스포머 아키텍처를 유지하며, 총 316억 개의 파라미터 중 36억 개만 활성화된다. 독립적인 벤치마킹 플랫폼인 아티피셜 애널리시스에 따르면, 이 모델은 지능 지수 24를 달성하여 전작(15)보다 9포인트 상승했다. 이로써 라이트닝은 오픈AI의 GPT-OSS-120B(24)와 동급이며, 약 4배 더 큰 엔비디아 자체 네모트론 3 슈퍼(26)에 바로 뒤처진다. 같은 클래스의 가장 지능적인 소형 모델인 Qwen3.6 35B A3B(32)나 메타의 새로운 뮤즈 글리머(35)는 여전히 앞서 있다. 엔비디아는 라이트닝을 효율성 최전선의 다른 지점에 포지셔닝하고 있다. 예비 테스트에서 최종 NVFP4 가중치를 사용한 경우, 이 모델은 초당 약 670토큰을 처리하여 비교 대상 모델 중 가장 높은 측정값을 기록했으며, 구글의 제미나이 3.5 플래시-라이트(초당 386토큰)보다 거의 두 배 빠르다. 따라서 지능 지수의 한 과제를 처리하는 데 약 0.5분이 걸리는 반면, Qwen3.6 35B A3B는 약 3.5분, 젬마 4 31B는 약 5.8분이 걸린다. 독점 모델은 계속해서 전반적인 효율성 최전선을 지배하고 있다. 제미나이 3.5 플래시-라이트는 비슷한 과제당 시간으로 지능 지수 37을 달성하고, GPT-5.6 루나(맥스)는 2분 미만으로 52포인트를 기록한다. 아티피셜 애널리시스에 따르면 가장 큰 개선은 에이전트 기능에서 나타난다. GDPval-AA v2에서 라이트닝은 엘로 점수 824를 기록하여 네모트론 3 나노보다 334포인트 상승했으며, GPT-OSS-120B(800)와 더 큰 네모트론 3 슈퍼(698)를 모두 능가한다. 터미널-벤치 v2.1에서는 점수가 7%에서 24.3%로 상승하여 GPT-OSS-120B(26.2%)와 거의 동급이다. 허용적인 오픈MDW-1.1 라이선스 하에 엔비디아는 이 모델을 고처리량 에이전트 파이프라인을 위한 효율적인 작업자로 포지셔닝한다. 아티피셜 애널리시스에 따르면, 엔비디아는 코드래빗 및 하비와 같은 파트너와 협력하여 특정 도메인의 성능을 개선하기 위한 사후 훈련을 진행했다. 엔비디아는 BF16 및 NVFP4 가중치로 모델을 제공하며, NVFP4 변형은 지능 지수에서도 24점을 기록하여 고정밀 버전 대비 최소한의 성능 저하를 보인다. 추론 모델은 텍스트만 처리하며 컨텍스트 창은 100만 토큰이다. 가중치는 즉시 사용할 수 있으며, 서버리스 추론은 딥인프라, 파이어웍스, 프렌들리AI, 코어웨이브, GMI 클라우드, 네비우스, 크루소가 제공한다.
출처: The Decoder (DE) —
원문
