AMD与Cerebras联手开发超低延迟AI推理平台
AMD与Cerebras Systems正在打造一个计算平台,结合AMD Instinct加速器和基于SRAM内存的Cerebras WSE芯片,用于AI代理的低延迟推理。该解决方案今年将在Cerebras Cloud中提供,每瓦特产生的令牌数量是竞争对手类似系统的五倍,且所需芯片更少。
Cerebras Systems
NVIDIA
3DNews24.07 · 14:03
AMD与Cerebras Systems正在打造一个计算平台,结合AMD Instinct加速器和基于SRAM内存的Cerebras WSE芯片,用于AI代理的低延迟推理。该解决方案今年将在Cerebras Cloud中提供,每瓦特产生的令牌数量是竞争对手类似系统的五倍,且所需芯片更少。
Cerebras Systems
NVIDIA