Nieuwe ultrasnelle modus versnelt GPT-5.6 Sol tot 750 tokens per seconde
OpenAI
Anthropic
Cerebras Systems
OpenAI heeft een nieuwe Ultrafast-modus geïntroduceerd voor GPT-5.6 Sol, die tot 14x snellere reacties mogelijk maakt en tot 750 uitvoertokens per seconde levert. De modus is momenteel in preview voor geselecteerde klanten en wordt mogelijk gemaakt door samenwerking met chipproducent Cerebras.
OpenAI heeft een nieuwe Ultrafast-modus aangekondigd die is ontworpen om GPT-5.6 Sol aanzienlijk te versnellen. Volgens TechCrunch, die zich baseert op de blog van OpenAI, stelt Ultrafast GPT-5.6 Sol in staat om tot 14 keer sneller te werken dan de standaardmodus, met een productie van maximaal 750 uitvoertokens per seconde. OpenAI merkt op dat hoge AI-snelheden voorheen doorgaans werden bereikt met kleinere of gespecialiseerde modellen, maar nu wordt de prestatie van het krachtigste model gecombineerd met snellere responsgeneratie. De nieuwe modus kan worden gebruikt in bedrijfstaken die snelle informatieverwerking vereisen, waaronder incidentrespons, klantenservice, financiële marktanalyse en e-commerce. Momenteel wordt Ultrafast in preview uitgerold en is het alleen beschikbaar voor een selecte groep klanten, waarbij de werking wordt ondersteund door samenwerking met chipproducent Cerebras. OpenAI heeft geen tijdschema aangegeven voor de volledige lancering, maar belooft alleen om de beschikbaarheid geleidelijk uit te breiden naarmate de rekenkracht toeneemt. Concurrenten zoals Anthropic hebben ook versnelde versies van hun modellen uitgebracht; Claude heeft een 'fastmodus', maar die biedt niet de snelheid die OpenAI momenteel levert.
Bron: 3DNews —
origineel
