AMD Instinct MI300: analisis arsitektur dan kinerja secara mendetail
NVIDIA
Taiwan Semiconductor Manufacturing Company
Seri AMD Instinct MI300, yang didasarkan pada arsitektur CDNA3, memperkenalkan desain chiplet heterogen dengan hingga 8 modul XCD dan 4 modul IOD, menggunakan teknologi pengemasan CoWoS canggih dan teknologi 3D V-Cache. Jajaran ini mencakup akselerator MI300X dan APU MI300A dengan inti Zen 4 terintegrasi, menawarkan hingga 304 unit komputasi, memori HBM3 hingga 192 GB, dan peningkatan kinerja yang signifikan dibandingkan generasi sebelumnya serta NVIDIA H100 dalam beban kerja HPC dan AI.
Seri Instinct MI300 dari AMD terdiri dari dua varian: akselerator MI300X dengan 8 keping komputasi XCD dan APU MI300A yang menggabungkan 6 keping XCD dengan 3 keping CCD yang berisi 24 inti Zen 4. Keduanya menggunakan proses TSMC 5nm/6nm, memiliki 8 tumpukan HBM3, dan TDP sekitar 750-760 W. MI300X menawarkan memori HBM3 192 GB dan 304 unit komputasi, sedangkan MI300A memiliki 128 GB dan 228 unit komputasi. Dalam hal kinerja, AMD mengklaim MI300X hingga 2,5x lebih cepat daripada NVIDIA H100 dalam FP32/64 dan kompetitif dalam mode presisi AI. MI300A menunjukkan keunggulan 4x dibandingkan H100 dalam tolok ukur OpenFOAM sambil mengonsumsi daya lebih rendah. Arsitektur CDNA3 memperkenalkan inti matriks baru yang mendukung FP8, TF32, data renggang (sparse data), dan hierarki memori yang dirancang ulang dengan Infinity Cache. Chip ini menggunakan interkoneksi Infinity Fabric untuk topologi GPU multi-kartu yang dapat diskalakan tanpa sakelar eksternal.
Sumber: ServerNews —
asli