AMD Instinct MI300：詳細なアーキテクチャと性能分析

AMDのInstinct MI300シリーズは、8個のXCDコンピュートチップレットを搭載するMI300Xアクセラレータと、6個のXCDチップレットに24コアのZen 4を搭載した3個のCCDチップレットを組み合わせたMI300A APUの2つのバリエーションから構成されます。いずれもTSMCの5nm/6nmプロセスを使用し、8スタックのHBM3メモリを搭載、TDPは約750～760Wです。MI300Xは192GBのHBM3メモリと304個のコンピュートユニットを備える一方、MI300Aは128GBのメモリと228個のコンピュートユニットを搭載します。性能面では、AMDはMI300XがFP32/64演算でNVIDIA H100比最大2.5倍の速度であり、AI精度モードでも競争力があると主張しています。MI300AはOpenFOAMベンチマークでH100を4倍リードし、消費電力はより低い結果を示しました。CDNA3アーキテクチャは、FP8、TF32、スパースデータをサポートする新しいマトリックスコアと、Infinity Cacheを備えた再設計されたメモリ階層を導入しています。このチップはInfinity Fabric相互接続を使用し、外部スイッチなしでスケーラブルなマルチGPUトポロジを実現します。