新型超高速模式将GPT-5.6 Sol速度提升至每秒750个令牌
OpenAI
Anthropic
Cerebras Systems
OpenAI为GPT-5.6 Sol推出了新的超高速模式,可提供高达14倍的响应速度,每秒最多输出750个令牌。该模式目前面向部分客户预览,并与芯片制造商Cerebras合作开发。
OpenAI发布了一款新的Ultrafast模式,旨在显著加速GPT-5.6 Sol。据TechCrunch援引OpenAI博客称,Ultrafast模式可使GPT-5.6 Sol的运行速度比标准模式快14倍,每秒最多生成750个输出词元。OpenAI指出,此前高速AI性能通常通过使用较小或专用模型实现,但现在最强大模型的性能与更快的响应生成相结合。新模式可用于需要快速信息处理的企业级任务,包括事件响应、客户服务、金融市场分析和电子商务。目前,Ultrafast正处于预览阶段,仅向选定的客户群体开放,其运行通过与芯片制造商Cerebras的合作提供支持。OpenAI尚未公布全面推出的时间表,仅承诺随着计算能力的增长逐步扩大可用性。Anthropic等竞争对手也发布了其模型的加速版本;Claude拥有“fast模式”,但其所提供的速度不及OpenAI目前提供的。
来源: 3DNews —
原文
