AMD Instinct MI300：详细架构与性能分析

AMD的Instinct MI300系列包含两个版本：拥有8个XCD计算芯片的MI300X加速器，以及将6个XCD芯片与包含24个Zen 4核心的3个CCD芯片相结合的MI300A APU。两者均采用台积电5纳米/6纳米工艺，配备8个HBM3堆栈，热设计功耗（TDP）约为750-760瓦。MI300X提供192 GB的HBM3内存和304个计算单元，而MI300A则配备128 GB内存和228个计算单元。性能方面，AMD声称MI300X在单精度浮点（FP32）和双精度浮点（FP64）运算中比NVIDIA H100快最多2.5倍，并在AI精度模式下具有竞争力。MI300A在OpenFOAM基准测试中展示了比H100领先4倍的优势，同时功耗更低。CDNA3架构引入了支持FP8、TF32、稀疏数据的新型矩阵核心，并采用重新设计的内存层次结构，包含Infinity Cache。该芯片使用Infinity Fabric互连，可实现无需外部交换机的可扩展多GPU拓扑。