英伟达发布单GPU可运行的开源权重模型Nemotron 3.5 Lightning

七月下旬，英伟达首席执行官黄仁勋公开支持开源人工智能模型，如今该公司推出了轻量级的Nemotron 3.5 Lightning模型，该模型在笔记本电脑或台式电脑上仅需单个GPU即可运行。企业客户可以自由下载、使用和修改该模型，无需审批。英伟达之所以受益，是因为用户仍需购买其出售的GPU硬件。黄仁勋认为，开放模型赋予企业控制权，促进竞争，降低价格，并增强网络安全和国家主权。英伟达已加入微软主导的一个联盟，该联盟旨在推广网络安全领域的开源模型和软件。Meta创始人马克·扎克伯格也支持开源模型。Nemotron 3.5 Lightning专注于代理型应用，并已由CrowdStrike、CodeRabbit和Harvey完成测试。该模型现已在Hugging Face和英伟达官网提供，同时推出的还有用于选择最佳AI模型的NeMo Switchyard实用工具。轻量级版本是通过从更大的Nemotron模型进行蒸馏（即知识蒸馏，一种模型压缩技术）而得到增强的。