Meta发布Muse Glimmer:本地化、智能体、多模态开源AI模型
Meta
Meta已发布Muse Glimmer,一个300亿参数的开源多模态AI模型,专为智能体任务设计,并在发布首日即获得Hugging Face transformers、llama.cpp和vLLM的支持。该模型采用混合注意力架构和20亿参数的视觉编码器,已在Hugging Face Hub上提供,并在智能体和编码基准测试中展现出强劲性能。
Meta 推出了 Muse Glimmer,一个开源的 30B 参数多模态模型,在 transformers、llama.cpp、vLLM 等库中获得了首日支持。其架构将用于视觉的 2B ViT 风格感知编码器与 28B 文本解码器相结合,采用了滑动窗口和全注意力层的混合注意力机制、门控分组查询注意力以减小 KV 缓存内存,以及 Q-K 归一化。此外,它还包括一个可选的推测解码草稿器,以加快生成速度,尤其适用于编码任务。基准测试结果显示,该模型在 MCP Atlas、DeepSearch QA 和 SWE-Bench 等任务上具有强大的智能体性能,同时具备多模态能力。该模型已在 Hugging Face Hub 上提供,并提供了使用 transformers 和 llama.cpp 进行纯文本推理、多模态工具调用、对象检测和视频推理的集成示例。
来源: Hugging Face blog —
原文
