AMD và Cerebras hợp tác phát triển nền tảng suy luận AI siêu độ trễ thấp

AMD và Cerebras Systems đang hợp tác phát triển nền tảng suy luận AI mới, kết hợp bộ tăng tốc AMD Instinct với chip Wafer Scale Engine (WSE) của Cerebras, sử dụng bộ nhớ SRAM trên chip thay vì HBM4, cho phép truy cập bộ nhớ nhanh hơn nhiều. Quan hệ đối tác này lấp đầy khoảng trống trong danh mục sản phẩm của AMD sau thương vụ Nvidia mua lại Groq trị giá 20 tỷ đô la vào tháng 12. Giám đốc điều hành Cerebras, Andrew Feldman, đã chỉ trích Nvidia, so sánh họ với những kẻ buôn bán vũ khí. Hệ thống kết hợp xử lý các truy vấn phức tạp trên bộ tăng tốc AMD Instinct và ủy thác việc tạo token cho Cerebras WSE, đạt hiệu suất gấp năm lần số token trên mỗi watt. Mặc dù các chỉ số cụ thể chưa được tiết lộ, giải pháp này dự kiến sẽ có sẵn trên Cerebras Cloud vào cuối năm nay. Nền tảng này cạnh tranh với Vera Rubin của Nvidia kết hợp với LPU của Groq 3, nhưng AMD và Cerebras tuyên bố hệ thống của họ chỉ cần vài chục chip cho mô hình 1 nghìn tỷ tham số như Kimi K2.5, trong khi Groq cần tới hai nghìn chip.