Nvidia, 단일 GPU에서 실행되는 오픈 웨이트 모델 Nemotron 3.5 Lightning 출시

지난 7월 말 Nvidia의 최고경영자(CEO) 젠슨 황이 오픈소스 인공지능(AI) 모델에 대한 지지를 표명했고, 이제 Nvidia는 노트북이나 개인용 컴퓨터(PC)에서 그래픽처리장치(GPU) 하나만으로 구동되는 경량 모델 Nemotron 3.5 Lightning을 공개했습니다. 기업 고객은 별도의 승인 없이 이 모델을 자유롭게 다운로드해 사용하고 수정할 수 있습니다. 사용자들이 여전히 자사가 판매하는 GPU 하드웨어를 필요로 하기 때문에 Nvidia에도 이익이 되는 구조입니다. 젠슨 황은 오픈 모델이 기업에 통제권을 부여하고, 경쟁을 촉진하며, 가격을 낮추고, 사이버 보안과 국가 주권을 강화한다고 보고 있습니다. Nvidia는 사이버 보안 분야에서 오픈소스 모델과 소프트웨어를 장려하는 컨소시엄에 Microsoft와 함께 참여했습니다. Meta의 창업자 마크 저커버그 역시 오픈소스 모델을 지지한 바 있습니다. Nemotron 3.5 Lightning은 AI가 자율적으로 작업을 수행하는 에이전틱 애플리케이션을 겨냥한 모델로, CrowdStrike, CodeRabbit, Harvey가 테스트를 거쳤습니다. 이 모델은 Hugging Face와 Nvidia 웹사이트에서 이용할 수 있으며, 최적의 AI 모델을 골라주는 유틸리티인 NeMo Switchyard도 함께 제공됩니다. 이 경량 버전은 더 큰 규모의 Nemotron 모델로부터 증류(distillation) 기법을 통해 성능을 개선했습니다.