ModellerDonanım ve Çıkarım 🇩🇪 11.08.2026 18:01

Nvidia'nın açık Nemotron 3.5 Lightning modeli, maksimum zekadan çok hıza öncelik veriyor

NVIDIANVIDIA OpenAIOpenAI MetaMeta Google/DeepMindGoogle/DeepMind
Nvidia, Nemotron 3.5 Lightning modelini yayınladı; bu kompakt açık ağırlıklı model, parametre sayısının dörtte birine sahip olmasına rağmen OpenAI'nin gpt-oss-120b modeline benzer bir zeka düzeyi sunuyor. Ön testlerde saniyede yaklaşık 670 token üreterek son derece hızlı olduğu iddia ediliyor ve bu, karşılaştırılan modeller arasında en yüksek değer; final NVFP4 ağırlıklarıyla elde ediliyor.
Nvidia, yeni Nemotron 3.5 serisinin ilk modeli olan Nemotron 3.5 Lightning'i piyasaya sürdü. Bu model, Nemotron 3 Nano 30B A3B'nin doğrudan halefi olup, hibrit Mamba-Transformer mimarisini koruyor: 31,6 milyar toplam parametre, bunların 3,6 milyarı aktif. Bağımsız kıyaslama platformu Artificial Analysis'e göre model, Intelligence Index'te 24 puan alarak selefine göre dokuz puanlık bir sıçrama yaptı (15). Bu, Lightning'i OpenAI'nin gpt-oss-120b (24) ile aynı seviyeye getiriyor ve Nvidia'nın yaklaşık dört kat daha büyük olan kendi Nemotron 3 Super'inin (26) hemen gerisine yerleştiriyor. Aynı sınıftaki en zeki küçük modeller, Qwen3.6 35B A3B (32) veya Meta'nın yeni Muse Glimmer'ı (35) gibi, açık ara önde kalmaya devam ediyor. Nvidia, Lightning'i verimlilik sınırında farklı bir noktaya konumlandırıyor: son NVFP4 ağırlıklarıyla yapılan ön testlerde model, saniyede neredeyse 670 tokena ulaşıyor; bu, karşılaştırılan modeller arasında ölçülen en yüksek değer ve Google'ın Gemini 3.5 Flash-Lite'ının (386 token/s) neredeyse iki katı. Dolayısıyla Intelligence Index'teki bir görev yaklaşık 0,5 dakika sürerken, Qwen3.6 35B A3B yaklaşık 3,5 dakika ve Gemma 4 31B yaklaşık 5,8 dakika sürüyor. Özel modeller genel verimlilik sınırında hakimiyetini sürdürüyor: Gemini 3.5 Flash-Lite, görev başına benzer süreyle Intelligence Index'te 37 puan alırken, GPT-5.6 Luna (max) iki dakikanın altında 52 puana ulaşıyor. Artificial Analysis'e göre en büyük iyileştirmeler aracı yeteneklerinde görülüyor. GDPval-AA v2'de Lightning, Elo skoru olarak 824'e ulaşarak Nemotron 3 Nano'ya göre 334 puanlık bir artış kaydetti ve hem gpt-oss-120b'yi (800) hem de daha büyük Nemotron 3 Super'i (698) geride bıraktı. Terminal-Bench v2.1'de skor yüzde 7'den 24,3'e yükselerek neredeyse gpt-oss-120b (yüzde 26,2) seviyesine ulaştı. Nvidia, izin veren OpenMDW-1.1 lisansıyla modeli, yüksek verimli aracı iş akışları için verimli bir işgücü olarak konumlandırıyor. Artificial Analysis'e göre Nvidia, belirli alanlarda performansı artırmak için CodeRabbit ve Harvey gibi ortaklarla son eğitim üzerinde çalıştı. Nvidia modeli BF16 ve NVFP4 ağırlıklarıyla sunuyor; NVFP4 varyantı da Intelligence Index'te 24 puan alarak yüksek hassasiyetli sürüme kıyasla minimum bozulma gösteriyor. Akıl yürütme modeli yalnızca metin işler ve bir milyon tokenlik bağlam penceresine sahiptir. Ağırlıklar hemen kullanıma sunuldu; sunucusuz çıkarım DeepInfra, Fireworks, FriendliAI, CoreWeave, GMI Cloud, Nebius ve Crusoe tarafından sunuluyor.
Kaynak: The Decoder (DE) — orijinal
Bu konudaki önceki yazılarımız ↓
Güncel haberler