Zhipu AI

Dernières actualités, modèles et sorties d'IA de Zhipu AI. ['GLM', 'GLM 4', 'GLM-4', 'GLM-4-32B-0414', 'GLM-4.5', 'GLM-4.6', 'GLM-4.7', 'glm-4.7-flash', 'GLM-4-9B-0414', 'GLM-4-9B-Chat-1M', 'GLM-4-Air-250414', 'GLM-4-Flash-250414', 'GLM 5', 'GLM-5', 'GLM-5.1', 'GLM5.1', 'GLM 5.2', 'GLM-5.2', 'GLM-5.5', 'GLM5-744B-A40B', 'GLM-Z1-32B-0414', 'GLM-Z1-9B-0414', 'GLM-Z1-Air', 'GLM-Z1-AirX', 'GLM-Z1-Flash', 'GLM-Z1-Rumination-32B-0414', 'not specified']

Recherche 🇺🇸

Au-delà des LLM standard : hybrides d’attention linéaire, modèles de diffusion de texte, modèles de monde de code et petits transformeurs récurrents

L’article explore des alternatives aux LLM standards basés sur l’attention autorégressive des transformeurs : les hybrides d’attention linéaire (MiniMax-M1, Qwen3-Next, DeepSeek V3.2, Kimi Linear), les modèles de diffusion de texte, les modèles de monde de code et les petits transformeurs récurrents. L’auteur note un retour à l’attention classique dans MiniMax-M2 et la complexité de l’attention linéaire en production.

Moonshot AI

MiniMax

Alibaba/Qwen

DeepSeek

Google/DeepMind

Mistral

Leanstral : Fondation ouverte pour une programmation fiable

Mistral AI a dévoilé Leanstral, le premier agent open-source pour l'assistant de preuve Lean 4. Le modèle, avec 6 milliards de paramètres actifs, s'attaque à des tâches de vérification formelle, surpassant les grands modèles ouverts en efficacité et obtenant des résultats compétitifs à un coût nettement inférieur par rapport à la famille Claude d'Anthropic.

Mistral

Anthropic

Alibaba/Qwen

Moonshot AI

Mistral AI27.07 · 16:04

Afficher plus ↓