Meta julkaisee Muse Glimmerin: paikallinen, agenttinen, multimodaalinen ja avoimen lähdekoodin tekoälymalli
Meta
Meta on julkaissut Muse Glimmerin, 30 miljardin parametrin avoimen lähdekoodin multimodaalisen tekoälymallin, joka on suunniteltu agenttisiin tehtäviin ja jolle on heti julkaisupäivänä tuki Hugging Face transformers -kirjastossa, llama.cpp:ssä ja vLLM:ssä. Malli, jossa on hybridi huomioarkkitehtuuri ja 2 miljardin parametrin näköenkooderi, on saatavilla Hugging Face Hubissa ja osoittaa vahvaa suorituskykyä agenttisissa ja ohjelmointitesteissä.
Meta on julkaissut Muse Glimmer -nimisen avoimen lähdekoodin 30B parametrin multimodaalimallin, jolle on heti julkaisupäivänä tuki transformers-, llama.cpp-, vLLM- ja muissa kirjastoissa. Arkkitehtuuri yhdistää 2B ViT-tyyppisen havaintokooderin visiota varten 28B tekstidekooderiin, ja siinä käytetään hybridiattentionia, jossa on liukuva ikkuna ja täydet attention-kerrokset, portitettua ryhmäkyselyattentionia KV-välimuistin muistin vähentämiseksi sekä Q-K-normalisointia. Mukana on myös valinnainen spekulatiivisen dekoodauksen luonnostelija nopeampaa generointia varten, joka sopii erityisesti koodaukseen. Vertailutulokset osoittavat vahvaa agenttimaista suorituskykyä tehtävissä, kuten MCP Atlas, DeepSearch QA ja SWE-Bench, sekä multimodaalisia kykyjä. Malli on saatavilla Hugging Face Hubissa, ja integraatioesimerkkejä on annettu tekstipohjaiseen päättelyyn, multimodaaliseen työkalujen kutsumiseen, objektien tunnistukseen ja videoinferenssiin käyttäen transformers- ja llama.cpp-kirjastoja.
Lähde: Hugging Face blog —
Alkuperäinen