Nvidia ra mắt mô hình Nemotron 3.5 Lightning mã nguồn mở chạy trên một GPU duy nhất

Vào cuối tháng Bảy, CEO của Nvidia, Jensen Huang, đã lên tiếng ủng hộ các mô hình AI mã nguồn mở, và giờ đây công ty đã công bố mô hình Nemotron 3.5 Lightning nhẹ, chỉ yêu cầu một GPU duy nhất trong máy tính xách tay hoặc máy tính để bàn. Khách hàng doanh nghiệp có thể tự do tải về, sử dụng và sửa đổi mô hình mà không cần sự chấp thuận. Nvidia được hưởng lợi vì người dùng vẫn cần phần cứng GPU, thứ mà họ bán. Huang tin rằng các mô hình mở mang lại cho các công ty quyền kiểm soát, thúc đẩy cạnh tranh, giảm giá và tăng cường an ninh mạng cũng như chủ quyền quốc gia. Nvidia đã tham gia cùng Microsoft trong một liên minh thúc đẩy các mô hình và phần mềm mã nguồn mở trong lĩnh vực an ninh mạng. Người sáng lập Meta, Mark Zuckerberg, cũng ủng hộ các mô hình mã nguồn mở. Nemotron 3.5 Lightning nhắm đến các ứng dụng đại lý và đã được CrowdStrike, CodeRabbit và Harvey thử nghiệm. Nó có sẵn trên Hugging Face và trang web của Nvidia, cùng với tiện ích NeMo Switchyard để chọn lựa các mô hình AI tối ưu. Biến thể nhẹ được tăng cường thông qua quá trình chưng cất từ các mô hình Nemotron lớn hơn.