AMD giới thiệu bộ tăng tốc AI Instinct MI455X với 432 GB HBM4 và hiệu năng lên đến 40 PFLOPS

AMD giới thiệu các bộ tăng tốc AI Instinct MI455X dành cho trung tâm dữ liệu, được xây dựng trên kiến trúc CDNA 5, nhắm đến các hệ thống đào tạo, suy luận AI quy mô lớn và hệ thống rack-scale. Mỗi bộ tăng tốc tích hợp 432 GB bộ nhớ HBM4 với băng thông đỉnh 23,3 TB/s. GPU chứa 320 tỷ bóng bán dẫn và sử dụng thiết kế đa chiplet: tám khuôn phức hợp tăng tốc (ACD) được chế tạo trên tiến trình TSMC N2 (2nm), hai chiplet kết nối và hai chiplet I/O trên tiến trình TSMC N3P (3nm). Nó có 256 đơn vị tính toán Work Group Processor (WGP), 192 MB bộ nhớ đệm L2 được chia thành hai khối 96 MB, 12 ngăn xếp bộ nhớ HBM4 qua giao diện 192 kênh, hỗ trợ PCIe Gen 6 và kết nối UALink. Hiệu năng đạt 20,13 PFLOPS ở định dạng MXFP8/MXFP6 và 40,26 PFLOPS ở MXFP4. So với Instinct MI355X, MI455X có bộ nhớ gấp 1,5 lần, băng thông bộ nhớ gấp 2,9 lần và hiệu năng MXFP8/MXFP4 gấp 4 lần. Các tính năng mới của CDNA 5 bao gồm Tensor Data Mover cho truyền dữ liệu bất đồng bộ, phân cụm work-group, multicast, nạp trước dữ liệu, split barriers và bộ xử lý lệnh để giảm độ trễ. Các bộ tăng tốc hỗ trợ phân vùng không gian thành một, hai hoặc tám phân vùng (chế độ NPS1 và NPS2). AMD cũng công bố Instinct MI430X dành cho tính toán khoa học, AI có chủ quyền và khối lượng công việc AI-HPC, tuyên bố hiệu năng FP64 đạt 288 TFLOPS nhưng không nêu chi tiết cấu hình bộ nhớ.