xAI

Uusimmat tekoälyuutiset, mallit ja julkaisut taholta xAI. ['Fable', 'Fable 5', 'Grok', 'Grok-1', 'Grok 2', 'Grok 2T', 'Grok-3', 'Grok 4.1 Fast', 'Grok 4.20', 'Grok 4.3', 'Grok 4.5', 'Grok 4.6', 'Grok 4.7', 'Grok Build', 'Grok Imagine', 'Grok Imagine Video', 'Grok Imagine Video 1.5', "Grok's successor", 'Muse Spark 1.1']

Tutkimus 🇺🇸

Vakio-LLM:ien tuolla puolen: lineaarisen attention hybridit, tekstidiffuusiomallit, koodimaailmamallit ja pienet rekurrentit transformerit

Artikkelissa tarkastellaan vaihtoehtoja tavallisille autoregressiivisille transformer-pohjaisille kielimalleille: lineaarisen attention hybridit (MiniMax-M1, Qwen3-Next, DeepSeek V3.2, Kimi Linear), tekstidiffuusiomallit, koodimaailmamallit ja pienet rekurrentit transformerit. Kirjoittaja huomauttaa paluusta klassiseen attentioniin MiniMax-M2:ssa ja lineaarisen attentionin monimutkaisuudesta tuotannossa.

Moonshot AIMoonshot AI MiniMaxMiniMax Alibaba/QwenAlibaba/Qwen DeepSeekDeepSeek Google/DeepMindGoogle/DeepMind MistralMistral MetaMeta Hugging FaceHugging Face Allen Institute for AIAllen Institute for AI xAIxAI OpenAIOpenAI IBMIBM NVIDIANVIDIA
Sebastian Raschka27.07 · 17:04
Tuoreet uutiset