AMD Instinct MI300: kiến trúc chi tiết và phân tích hiệu suất
NVIDIA
Taiwan Semiconductor Manufacturing Company
Dòng AMD Instinct MI300, dựa trên kiến trúc CDNA3, giới thiệu thiết kế chiplet không đồng nhất với tối đa 8 mô-đun XCD và 4 mô-đun IOD, sử dụng công nghệ đóng gói CoWoS tiên tiến và công nghệ 3D V-Cache. Dòng sản phẩm bao gồm bộ tăng tốc MI300X và APU MI300A với lõi Zen 4 tích hợp, cung cấp tới 304 đơn vị tính toán, bộ nhớ HBM3 lên tới 192 GB, và cải thiện hiệu suất đáng kể so với thế hệ trước và NVIDIA H100 trong cả khối lượng công việc HPC và AI.
Dòng AMD Instinct MI300 gồm hai biến thể: MI300X – bộ tăng tốc với 8 chiplet tính toán XCD, và MI300A – APU kết hợp 6 chiplet XCD với 3 chiplet CCD chứa 24 lõi Zen 4. Cả hai đều sử dụng tiến trình TSMC 5nm/6nm, có 8 ngăn xếp HBM3, và TDP khoảng 750-760 W. MI300X cung cấp 192 GB bộ nhớ HBM3 và 304 đơn vị tính toán, trong khi MI300A có 128 GB và 228 đơn vị tính toán. Về hiệu năng, AMD tuyên bố MI300X nhanh hơn tới 2,5 lần so với NVIDIA H100 ở FP32/64 và cạnh tranh ở các chế độ độ chính xác AI. MI300A thể hiện ưu thế gấp 4 lần so với H100 trong benchmark OpenFOAM khi tiêu thụ ít điện năng hơn. Kiến trúc CDNA3 giới thiệu các lõi ma trận mới hỗ trợ FP8, TF32, dữ liệu thưa, và hệ thống phân cấp bộ nhớ thiết kế lại với Infinity Cache. Chip sử dụng kết nối Infinity Fabric cho các cấu trúc liên kết đa GPU có khả năng mở rộng mà không cần bộ chuyển mạch ngoài.
Nguồn: ServerNews —
bản gốc