ModelPerangkat Keras & Inferensi 🇺🇸 11.08.2026 08:03

Meta AI Meluncurkan Muse Glimmer: Model Agen 30B Berbobot Terbuka untuk GPU Konsumen

MetaMeta Alibaba/QwenAlibaba/Qwen
Meta telah merilis Muse Glimmer, model multimodal 30 miliar parameter yang disuling dari Muse Spark, di bawah lisensi Apache 2.0. Dengan kuantisasi 4-bit dan decoding spekulatif DFlash, model ini dapat berjalan pada satu GPU konsumen atau Mac, memungkinkan alur kerja agen lokal.
Meta telah merilis Muse Glimmer, model multimodal 30 miliar parameter yang disuling dari Muse Spark, disetel untuk alur kerja agen lokal yang selalu aktif, dan dirilis di bawah lisensi Apache 2.0. Pada presisi penuh, model 30B membutuhkan lebih dari 55 GB memori, tetapi Meta mengompresnya menjadi presisi sekitar 4-bit dan menambahkan decoding spekulatif tingkat blok, memungkinkannya berjalan pada satu GPU konsumen atau Mac tanpa panggilan jaringan. Koleksi Hugging Face mencakup bobot BF16, GGUF k-quants, build ExecuTorch, dan drafter DFlash. Muse Glimmer adalah transformer kausal padat dengan encoder persepsi, menggunakan grouped-query attention dengan 32 query head dan 2 KV head, serta panjang konteks 131.072+. Pelatihan melibatkan distilasi logit pada output Muse Spark, pelatihan tengah dengan data agen konteks panjang, dan pasca-pelatihan dengan supervised fine-tuning dan reinforcement learning. Versi terkompresi memakan waktu kurang dari 20 GB untuk model bahasa, muat dalam 24 GB atau 32 GB. Dua build kuantisasi tersedia: K-Quant-Dynamic menargetkan VRAM 32 GB dengan degradasi rata-rata 0,2%, dan K-Quant-17GB menargetkan VRAM 24 GB dengan 1,0%. DFlash, drafter difusi blok, memprediksi 16 token dalam satu forward pass, mencapai percepatan 3,1x pada RTX 5090. Tolok ukur menunjukkan Muse Glimmer memimpin pada MCP Atlas (75,5), DeepSearch QA (74,6), Gaia2 (43,3), SWE-Bench Pro (51,2), dan AIME 2026 (94,7), tetapi tertinggal dari Qwen3.6-27B pada OSWorld-Verified (65,9 vs 75,6) dan TerminalBench 2.1. Pada keamanan, tingkat keberhasilan serangan Siren AgentDojo adalah 28,4 dengan utilitas 94,2, dan Meta menilai risiko kimia/biologi, siber, dan kehilangan kendali pada tingkat sedang atau lebih rendah.
Sumber: MarkTechPost — asli
Postingan kami sebelumnya tentang topik ini ↓
Berita terbaru