Nvidia lanza el modelo de pesos abiertos Nemotron 3.5 Lightning que se ejecuta en una sola GPU

A finales de julio, el CEO de Nvidia, Jensen Huang, expresó su apoyo a los modelos de IA de código abierto, y ahora la compañía ha presentado el modelo ligero Nemotron 3.5 Lightning, que requiere solo una GPU en un portátil o PC de escritorio. Los clientes empresariales pueden descargar, utilizar y modificar el modelo libremente, sin necesidad de aprobación. Nvidia se beneficia porque los usuarios aún necesitan hardware de GPU, que es lo que vende. Huang cree que los modelos abiertos dan control a las empresas, fomentan la competencia, reducen los precios y mejoran la ciberseguridad y la soberanía nacional. Nvidia se unió a Microsoft en un consorcio que promueve modelos y software de código abierto en ciberseguridad. El fundador de Meta, Mark Zuckerberg, también apoyó los modelos de código abierto. Nemotron 3.5 Lightning está dirigido a aplicaciones de agentes y ha sido probado por CrowdStrike, CodeRabbit y Harvey. Está disponible en Hugging Face y en el sitio de Nvidia, junto con la utilidad NeMo Switchyard para seleccionar modelos de IA óptimos. La variante ligera se mejoró mediante destilación de modelos Nemotron más grandes.