Meta AI stellt Muse Glimmer vor: Ein 30B Open-Weight-Modell für Consumer-GPUs
Meta
Alibaba/Qwen
Meta hat Muse Glimmer veröffentlicht, ein multimodales Modell mit 30 Milliarden Parametern, das aus Muse Spark destilliert wurde und unter der Apache-Lizenz 2.0 steht. Mit 4-Bit-Quantisierung und spekulativem Decoding (DFlash) läuft es auf einer einzelnen Consumer-GPU oder einem Mac und ermöglicht lokale Agenten-Workflows.
Meta hat Muse Glimmer veröffentlicht, ein multimodales Modell mit 30 Milliarden Parametern, das aus Muse Spark destilliert wurde und für dauerhaft aktive lokale Agenten-Workflows optimiert ist und unter Apache 2.0 veröffentlicht wurde. In voller Präzision benötigt ein 30B-Modell über 55 GB Speicher, aber Meta komprimiert es auf etwa 4-Bit-Präzision und fügt Block-Level-Spekulativ-Dekodierung hinzu, sodass es auf einer einzelnen Verbraucher-GPU oder einem Mac ohne Netzwerkaufruf läuft. Die Hugging-Face-Sammlung umfasst BF16-Gewichte, GGUF-k-Quants, ExecuTorch-Builds und den DFlash-Drafter. Muse Glimmer ist ein dichtes kausales Transformer-Modell mit einem Wahrnehmungs-Encoder, das Grouped-Query-Attention mit 32 Query-Köpfen und 2 KV-Köpfen sowie eine Kontextlänge von über 131.072 verwendet. Das Training umfasste Logit-Destillation auf den Ausgaben von Muse Spark, Mid-Training mit längerem Kontext und agentenlastigen Daten sowie Post-Training mit überwachter Feinabstimmung und Bestärkendem Lernen. Die komprimierte Version benötigt weniger als 20 GB für das Sprachmodell und passt in 24-GB- oder 32-GB-Grenzen. Zwei quantisierte Builds sind verfügbar: K-Quant-Dynamic zielt auf 32 GB VRAM mit einer durchschnittlichen Degradation von 0,2 % ab, und K-Quant-17GB auf 24 GB VRAM mit 1,0 %. DFlash, ein Block-Diffusions-Drafter, sagt 16 Token in einem Vorwärtsdurchlauf voraus und erreicht eine 3,1-fache Beschleunigung auf der RTX 5090. Benchmarks zeigen, dass Muse Glimmer bei MCP Atlas (75,5), DeepSearch QA (74,6), Gaia2 (43,3), SWE-Bench Pro (51,2) und AIME 2026 (94,7) führt, aber bei OSWorld-Verified (65,9 gegenüber 75,6) und TerminalBench 2.1 hinter Qwen3.6-27B zurückbleibt. Bei der Sicherheit liegt die Angriffserfolgsrate bei Siren AgentDojo bei 28,4 mit einem Nutzwert von 94,2, und Meta stuft das Chemie-/Biologie-, Cyber- und Kontrollverlustrisiko als moderat oder niedriger ein.
Quelle: MarkTechPost —
Original
