AMD与Cerebras联手打造超低延迟AI推理平台

AMD和Cerebras Systems正合作打造全新AI推理平台，将AMD Instinct加速器与Cerebras的晶圆级引擎（WSE）芯片相结合。该芯片采用片上SRAM内存替代HBM4，实现更快的内存访问速度。这一合作填补了AMD产品组合中的空白——此前英伟达在去年12月以200亿美元收购了Groq。Cerebras CEO安德鲁·费尔德曼批评英伟达，将其比作军火商。该组合系统在AMD Instinct加速器上处理复杂查询，并将token生成任务委派给Cerebras WSE，能效达到每瓦特五倍于对手的token数。虽然尚未公布具体指标，但该解决方案预计将于今年晚些时候在Cerebras Cloud上推出。该平台将与英伟达的Vera Rubin配合Groq 3 LPU（线性处理单元）的方案竞争，但AMD和Cerebras声称其系统只需几十个芯片即可运行像Kimi K2.5这样的万亿参数模型，而Groq则需要两千个芯片。