Meta zet in op open modellen in een poging om zijn AI-strategie te nieuw leven in te blazen

Meta heeft aangekondigd zich te willen richten op grote taalmodellen met open gewichten, en heeft hiermee het open model Muse Glimmer onthuld en beloofd de gewichten van zijn krachtigere Muse Spark 1.2 in de komende weken openbaar te maken. CEO Mark Zuckerberg publiceerde een essay van 6000 woorden waarin hij de AI-filosofie van het bedrijf uiteenzet, met als doel Meta te onderscheiden van OpenAI en Anthropic, die eigen modellen ontwikkelen en bij de Amerikaanse overheid lobbyen tegen grootschalige distillatie en open-gewichtmodellen van Chinese laboratoria. Muse Glimmer is een model met 30 miljard parameters en een contextvenster van 128.000 tokens, gedistilleerd uit Muse Spark, en is ontworpen om lokaal op gebruikersmachines te draaien onder de Apache 2.0-licentie. Muse Spark, dat in april werd gelanceerd als een gesloten frontier-model, betekende een verschuiving ten opzichte van Meta's eerdere open aanpak; de versie 1.2, uitgebracht op 5 augustus, bevatte Muse Code, een codeeragent die concurreert op kosten in plaats van op topcapaciteit. Muse Glimmer weerspiegelt een trend naar lokale inferentie om de afhankelijkheid van modellen van grote laboratoria zoals die van Anthropic en OpenAI te verminderen.