Meta, Muse Glimmer'ı yayınladı: yerel, ajan tabanlı, çok modlu ve açık kaynaklı yapay zeka modeli
Meta
Meta, ajan tabanlı görevler için tasarlanmış 30B parametreli açık kaynaklı çok modlu bir yapay zeka modeli olan Muse Glimmer'ı yayınladı. Model, Hugging Face transformers, llama.cpp ve vLLM'de ilk gün desteğiyle geliyor. Hibrit dikkat mimarisi ve 2B görüntü kodlayıcıya sahip model, Hugging Face Hub'da mevcut ve ajan tabanlı ile kodlama kıyaslamalarında güçlü performans sergiliyor.
Meta, açık kaynaklı 30B parametreli çok modlu bir model olan Muse Glimmer'ı tanıttı ve transformers, llama.cpp, vLLM ve diğer kütüphanelerde ilk gün desteği sağladı. Mimari, görüntü için 2B ViT tarzı algılama kodlayıcıyı 28B metin kod çözücüyle birleştiriyor; kayan pencere ve tam dikkat katmanlarıyla hibrit dikkat, KV-önbellek belleğini azaltmak için kapılı gruplu sorgu dikkati ve Q-K normalizasyonu kullanıyor. Ayrıca, özellikle kodlama için uygun olan daha hızlı üretim için isteğe bağlı bir spekülatif kod çözme taslağı içeriyor. Kıyaslama sonuçları, MCP Atlas, DeepSearch QA ve SWE-Bench gibi görevlerde güçlü aracı performansı ve çok modlu yetenekler gösteriyor. Model Hugging Face Hub'da mevcut ve metin yalnızca çıkarım, çok modlu araç çağırma, nesne algılama ve transformers ile llama.cpp kullanarak video çıkarımı için entegrasyon örnekleri sağlanıyor.
Kaynak: Hugging Face blog —
orijinal