Meta AI ra mắt Muse Glimmer: Mô hình tác tử 30B mã nguồn mở dành cho GPU tiêu dùng

Meta đã phát hành Muse Glimmer, một mô hình đa phương thức 30 tỷ tham số được chưng cất từ Muse Spark, được tinh chỉnh cho các quy trình tác tử cục bộ luôn hoạt động và được phát hành theo giấy phép Apache 2.0. Ở độ chính xác đầy đủ, một mô hình 30B cần hơn 55 GB bộ nhớ, nhưng Meta nén nó xuống độ chính xác khoảng 4-bit và thêm giải mã suy đoán cấp khối, cho phép chạy trên một GPU tiêu dùng hoặc Mac mà không cần gọi mạng. Bộ sưu tập Hugging Face bao gồm trọng số BF16, GGUF k-quants, bản dựng ExecuTorch và trình dự thảo DFlash. Muse Glimmer là một transformer nhân quả dày đặc với bộ mã hóa tri giác, sử dụng chú ý truy vấn nhóm với 32 đầu truy vấn và 2 đầu KV, và độ dài ngữ cảnh 131.072 trở lên. Việc huấn luyện bao gồm chưng cất logit trên đầu ra của Muse Spark, huấn luyện giữa kỳ với dữ liệu dài ngữ cảnh tập trung vào tác tử, và huấn luyện sau với tinh chỉnh giám sát và học tăng cường. Phiên bản nén chiếm dưới 20 GB cho mô hình ngôn ngữ, phù hợp với bộ nhớ 24 GB hoặc 32 GB. Hai bản dựng lượng tử hóa có sẵn: K-Quant-Dynamic nhắm mục tiêu 32 GB VRAM với mức suy giảm trung bình 0,2% và K-Quant-17GB nhắm mục tiêu 24 GB VRAM với mức 1,0%. DFlash, trình dự thảo khuếch tán khối, dự đoán 16 token trong một lượt truyền xuôi, đạt tốc độ tăng 3,1 lần trên RTX 5090. Các điểm chuẩn cho thấy Muse Glimmer dẫn đầu trên MCP Atlas (75,5), DeepSearch QA (74,6), Gaia2 (43,3), SWE-Bench Pro (51,2) và AIME 2026 (94,7), nhưng kém Qwen3.6-27B trên OSWorld-Verified (65,9 so với 75,6) và TerminalBench 2.1. Về an toàn, tỷ lệ tấn công thành công Siren AgentDojo là 28,4 với tiện ích 94,2, và Meta đánh giá rủi ro hóa học/sinh học, mạng và mất kiểm soát ở mức trung bình hoặc thấp hơn.