Zhipu AI

来自以下厂商的最新 AI 新闻、模型与发布： Zhipu AI. ['GLM', 'GLM 4', 'GLM-4', 'GLM-4-32B-0414', 'GLM-4.5', 'GLM-4.6', 'GLM-4.7', 'glm-4.7-flash', 'GLM-4-9B-0414', 'GLM-4-9B-Chat-1M', 'GLM-4-Air-250414', 'GLM-4-Flash-250414', 'GLM 5', 'GLM-5', 'GLM-5.1', 'GLM5.1', 'GLM 5.2', 'GLM-5.2', 'GLM-5.5', 'GLM5-744B-A40B', 'GLM-Z1-32B-0414', 'GLM-Z1-9B-0414', 'GLM-Z1-Air', 'GLM-Z1-AirX', 'GLM-Z1-Flash', 'GLM-Z1-Rumination-32B-0414', 'not specified']

研究 🇺🇸

超越标准大语言模型：线性注意力混合体、文本扩散模型、代码世界模型和小型循环Transformer

文章探讨了标准自回归Transformer大语言模型的替代方案：线性注意力混合体（MiniMax-M1、Qwen3-Next、DeepSeek V3.2、Kimi Linear）、文本扩散模型、代码世界模型和小型循环Transformer。作者注意到MiniMax-M2回归了经典注意力，以及线性注意力在生产中的复杂性。