ModèlesMatériel et Inférence 🇷🇺 14.08.2026 07:02

Nouveau mode ultrarapide qui accélère GPT-5.6 Sol à 750 jetons par seconde

OpenAIOpenAI AnthropicAnthropic Cerebras SystemsCerebras Systems
OpenAI a introduit un nouveau mode ultrarapide pour GPT-5.6 Sol, permettant des réponses jusqu'à 14 fois plus rapides et fournissant jusqu'à 750 jetons de sortie par seconde. Ce mode est actuellement en aperçu pour certains clients et est propulsé par une collaboration avec le fabricant de puces Cerebras.
OpenAI a annoncé un nouveau mode Ultrafast conçu pour accélérer considérablement GPT-5.6 Sol. Selon TechCrunch, qui cite le blog d'OpenAI, Ultrafast permet à GPT-5.6 Sol de fonctionner jusqu'à 14 fois plus vite que le mode standard, produisant jusqu'à 750 jetons de sortie par seconde. OpenAI note qu'auparavant, les performances IA à haute vitesse étaient généralement obtenues en utilisant des modèles plus petits ou spécialisés, mais désormais, on combine les performances du modèle le plus puissant avec une génération de réponses plus rapide. Le nouveau mode peut être utilisé dans des tâches d'entreprise nécessitant un traitement rapide de l'information, notamment la réponse aux incidents, le service client, l'analyse des marchés financiers et le commerce électronique. Actuellement, Ultrafast est déployé en version préliminaire et n'est disponible que pour un groupe restreint de clients, son fonctionnement étant soutenu par une collaboration avec le fabricant de puces Cerebras. OpenAI n'a pas précisé de calendrier pour le lancement complet, promettant seulement d'élargir progressivement la disponibilité à mesure que la capacité de calcul augmente. Des concurrents comme Anthropic ont également publié des versions accélérées de leurs modèles ; Claude dispose d'un « mode rapide », mais il n'offre pas la vitesse qu'OpenAI propose actuellement.
Source: 3DNews — original
Nos articles précédents sur ce sujet ↓
Infos fraîches