Meta veröffentlicht Muse Glimmer: lokales, agentisches, multimodales und quelloffenes KI-Modell
Meta
Meta hat Muse Glimmer veröffentlicht, ein quelloffenes multimodales KI-Modell mit 30 Milliarden Parametern, das für agentische Aufgaben entwickelt wurde und ab dem ersten Tag in den Hugging-Face-Transformers, llama.cpp und vLLM unterstützt wird. Das Modell, das eine hybride Aufmerksamkeitsarchitektur und einen Vision-Encoder mit 2 Milliarden Parametern aufweist, ist im Hugging-Face-Hub verfügbar und zeigt starke Leistungen bei agentischen und Programmier-Benchmarks.
Meta hat Muse Glimmer vorgestellt, ein quelloffenes multimodales Modell mit 30 Milliarden Parametern, das ab dem ersten Tag in Transformers, llama.cpp, vLLM und anderen Bibliotheken unterstützt wird. Die Architektur kombiniert einen 2B großen Wahrnehmungs-Encoder im ViT-Stil für die Bildverarbeitung mit einem 28B Text-Decoder und nutzt dabei eine hybride Aufmerksamkeit mit gleitenden Fenstern und vollständigen Aufmerksamkeitsebenen, gated grouped-query attention zur Reduzierung des KV-Cache-Speichers und Q-K-Normalisierung. Außerdem enthält sie einen optionalen spekulativen Dekodierungs-Drafter für schnellere Generierung, der besonders für Programmierung geeignet ist. Die Benchmark-Ergebnisse zeigen eine starke agentische Leistung bei Aufgaben wie MCP Atlas, DeepSearch QA und SWE-Bench sowie multimodale Fähigkeiten. Das Modell ist im Hugging Face Hub verfügbar, und es werden Integrationsbeispiele für reine Text-Inferenz, multimodales Tool-Calling, Objekterkennung und Video-Inferenz mit Transformers und llama.cpp bereitgestellt.
Quelle: Hugging Face blog —
Original