AMD dan Cerebras Bergabung untuk Kembangkan Platform Inferensi AI dengan Latensi Sangat Rendah

AMD dan Cerebras Systems berkolaborasi dalam platform inferensi AI baru yang menggabungkan akselerator AMD Instinct dengan chip Wafer Scale Engine (WSE) milik Cerebras, yang menggunakan memori SRAM on-chip sebagai pengganti HBM4, sehingga memungkinkan akses memori yang jauh lebih cepat. Kemitraan ini mengisi celah dalam portofolio AMD setelah akuisisi Groq oleh Nvidia senilai $20 miliar pada bulan Desember. CEO Cerebras, Andrew Feldman, mengkritik Nvidia dengan membandingkannya dengan pedagang senjata. Sistem gabungan ini menangani kueri kompleks pada akselerator AMD Instinct dan mendelegasikan pembuatan token ke Cerebras WSE, mencapai lima kali lebih banyak token per watt. Meskipun metrik spesifik belum diungkapkan, solusi ini diharapkan tersedia di Cerebras Cloud pada akhir tahun ini. Platform ini bersaing dengan Vera Rubin milik Nvidia yang dipasangkan dengan LPU Groq 3, tetapi AMD dan Cerebras mengklaim bahwa sistem mereka hanya membutuhkan beberapa lusin chip untuk model dengan 1 triliun parameter seperti Kimi K2.5, sedangkan Groq membutuhkan dua ribu chip.