Meta AI onthult Muse Glimmer: een open-weight agentisch model van 30 miljard parameters voor consumenten-GPU's
Meta
Alibaba/Qwen
Meta heeft Muse Glimmer uitgebracht, een multimodaal model met 30 miljard parameters, gedestilleerd uit Muse Spark, onder de Apache 2.0-licentie. Met 4-bit kwantisering en DFlash-speculatieve decodering draait het op een enkele consumenten-GPU of Mac, waardoor lokale agentworkflows mogelijk worden.
Meta heeft Muse Glimmer uitgebracht, een multimodaal model met 30 miljard parameters, gedistilleerd uit Muse Spark, afgestemd op altijd aanstaande lokale agentwerkstromen, en uitgebracht onder Apache 2.0. Bij volledige precisie heeft een 30B-model meer dan 55 GB geheugen nodig, maar Meta comprimeert het tot ongeveer 4-bits precisie en voegt blokgewijze speculatieve decodering toe, waardoor het op één consumenten-GPU of een Mac kan draaien zonder netwerkoproep. De Hugging Face-collectie omvat BF16-gewichten, GGUF k-quants, ExecuTorch-builds en de DFlash-drafter. Muse Glimmer is een dichte causale transformer met een perceptie-encoder, met groepsgewijze query-aandacht met 32 query-heads en 2 KV-heads, en een contextlengte van 131.072+. De training omvatte logit-distillatie op de outputs van Muse Spark, mid-training met langere context agent-zware data, en post-training met gesuperviseerde fijnafstemming en reinforcement learning. De gecomprimeerde versie neemt minder dan 20 GB in voor het taalmodel, passend in 24 GB- of 32 GB-enveloppen. Er zijn twee gekwantiseerde builds beschikbaar: K-Quant-Dynamic richt zich op 32 GB VRAM met een gemiddelde degradatie van 0,2%, en K-Quant-17GB richt zich op 24 GB VRAM met 1,0%. DFlash, een blokdiffusie-drafter, voorspelt 16 tokens in één voorwaartse pas, met een 3,1x versnelling op RTX 5090. Benchmarks tonen aan dat Muse Glimmer leidt op MCP Atlas (75,5), DeepSearch QA (74,6), Gaia2 (43,3), SWE-Bench Pro (51,2) en AIME 2026 (94,7), maar achterloopt op Qwen3.6-27B op OSWorld-Verified (65,9 tegenover 75,6) en TerminalBench 2.1. Op het gebied van veiligheid is de aanvalssuccesratio van Siren AgentDojo 28,4 met een bruikbaarheid van 94,2, en Meta beoordeelt chemisch/biologisch, cyber en verlies van controle-risico als matig of lager.
Bron: MarkTechPost —
origineel
