AMDとCerebrasが連携、超低レイテンシAI推論プラットフォームを開発

AMDとCerebras Systemsは、AMD Instinctアクセラレータと、HBM4の代わりにオンチップSRAMメモリを使用することでメモリアクセスを大幅に高速化するCerebrasのWafer Scale Engine（WSE）チップを統合した、新しいAI推論プラットフォームで協業している。この提携は、Nvidiaが12月にGroqを200億ドルで買収した後に生じたAMDのポートフォリオにおけるギャップを埋めるものだ。CerebrasのCEOであるAndrew Feldman氏はNvidiaを批判し、武器商人になぞらえた。この統合システムは、複雑なクエリをAMD Instinctアクセラレータで処理し、トークン生成をCerebras WSEに委任することで、ワットあたり5倍のトークン生成を実現する。具体的な指標はまだ開示されていないが、このソリューションは年内にCerebras Cloudで利用可能になる見込みだ。このプラットフォームは、NvidiaのVera RubinとGroq 3のLPU（言語処理ユニット）を組み合わせたものと競合するが、AMDとCerebrasは、自社のシステムではKimi K2.5のような1兆パラメータモデルに数十個のチップしか必要としないのに対し、Groqでは2000個のチップが必要になると主張している。