Meta AI, Tüketici GPU'ları için Muse Glimmer'ı Tanıttı: 30B Açık Ağırlıklı Aracı Model

Meta, Muse Spark'tan damıtılan, her zaman açık yerel ajan iş akışları için ayarlanmış ve Apache 2.0 altında yayınlanan 30 milyar parametreli çok modlu bir model olan Muse Glimmer'ı yayınladı. Tam hassasiyette, 30B'lik bir model 55 GB'ın üzerinde belleğe ihtiyaç duyuyor, ancak Meta bunu yaklaşık 4 bit hassasiyete sıkıştırıyor ve blok düzeyinde spekülatif kod çözme ekliyor; bu da tek bir tüketici GPU'sunda veya ağ çağrısı olmadan bir Mac'te çalışmasını sağlıyor. Hugging Face koleksiyonu BF16 ağırlıklarını, GGUF k-kuantlarını, ExecuTorch derlemelerini ve DFlash taslağını içeriyor. Muse Glimmer, algı kodlayıcılı yoğun bir nedensel dönüştürücüdür; 32 sorgu başlığı ve 2 KV başlığı ile gruplandırılmış sorgu dikkati kullanır ve 131.072+ bağlam uzunluğuna sahiptir. Eğitim, Muse Spark'ın çıktıları üzerinde logit damıtma, daha uzun bağlamlı ajan yoğun verilerle orta eğitim ve denetimli ince ayar ile pekiştirmeli öğrenme ile son eğitimi içeriyordu. Sıkıştırılmış sürüm, dil modeli için 20 GB'ın altında yer kaplıyor ve 24 GB veya 32 GB zarfına sığıyor. İki nicelemeli derleme mevcuttur: K-Quant-Dynamic, %0,2 ortalama bozulma ile 32 GB VRAM'i hedefler ve K-Quant-17GB, %1,0 ile 24 GB VRAM'i hedefler. Blok difüzyon taslağı olan DFlash, tek ileri geçişte 16 token tahmin eder ve RTX 5090'da 3,1 kat hızlanma elde eder. Karşılaştırmalar, Muse Glimmer'ın MCP Atlas (75,5), DeepSearch QA (74,6), Gaia2 (43,3), SWE-Bench Pro (51,2) ve AIME 2026'da (94,7) önde olduğunu, ancak OSWorld-Verified'da (65,9'a karşı 75,6) ve TerminalBench 2.1'de Qwen3.6-27B'nin gerisinde kaldığını gösteriyor. Güvenlik konusunda, Siren AgentDojo saldırı başarı oranı 28,4 ve yardımcı program 94,2'dir ve Meta, kimya/bio, siber ve kontrol kaybı riskini orta veya daha düşük olarak derecelendiriyor.