AMD Instinct MI300: detaillierte Architektur- und Leistungsanalyse
NVIDIA
Taiwan Semiconductor Manufacturing Company
Die AMD Instinct MI300 Serie, basierend auf der CDNA3 Architektur, führt ein heterogenes Chiplet-Design mit bis zu 8 XCD-Modulen und 4 IOD-Modulen ein, das fortschrittliche CoWoS-Verpackungs- und 3D-V-Cache-Technologie nutzt. Das Lineup umfasst den Beschleuniger MI300X und die APU MI300A mit integrierten Zen 4 Kernen, die bis zu 304 Compute Units, HBM3-Speicher bis zu 192 GB und deutliche Leistungssteigerungen gegenüber der vorherigen Generation und dem NVIDIA H100 in HPC- und KI-Workloads bieten.
AMDs Instinct MI300-Serie besteht aus zwei Varianten: dem MI300X-Beschleuniger mit 8 XCD-Compute-Chiplets und dem MI300A-APU, der 6 XCD-Chiplets mit 3 CCD-Chiplets mit 24 Zen-4-Kernen kombiniert. Beide nutzen den 5nm/6nm-TSMC-Prozess, verfügen über 8 HBM3-Stapel und haben eine thermische Verlustleistung (TDP) von etwa 750–760 W. Der MI300X bietet 192 GB HBM3-Speicher und 304 Recheneinheiten, während der MI300A 128 GB und 228 Recheneinheiten hat. In Bezug auf die Leistung behauptet AMD, dass der MI300X bei FP32/64 bis zu 2,5-mal schneller ist als der NVIDIA H100 und in KI-Präzisionsmodi wettbewerbsfähig ist. Der MI300A zeigte in einem OpenFOAM-Benchmark einen 4-fachen Vorsprung gegenüber dem H100 bei geringerem Stromverbrauch. Die CDNA3-Architektur führt neue Matrix-Kerne ein, die FP8, TF32, sparse Daten und eine neu gestaltete Speicherhierarchie mit Infinity Cache unterstützen. Der Chip verwendet Infinity-Fabric-Verbindungen für skalierbare Multi-GPU-Topologien ohne externe Switches.
Quelle: ServerNews —
Original