AMD、432 GB HBM4と最大40 PFLOPSの性能を誇るAIアクセラレータInstinct MI455Xを発表

AMDはデータセンター向けAIアクセラレータ「Instinct MI455X」を発表しました。CDNA 5アーキテクチャを採用し、大規模なAIトレーニング、推論、およびラックスケールシステムを対象としています。各アクセラレータは432 GBのHBM4メモリを搭載し、ピーク帯域幅は23.3 TB/sです。GPUは3200億個のトランジスタを含み、マルチチップレット設計を採用しています。8つのアクセラレータコンプレックスダイ（ACD）はTSMC N2（2nm）プロセスで製造され、2つのファブリックチップレットと2つのI/OチップレットはTSMC N3P（3nm）プロセスで製造されています。256個のワークグループプロセッサ（WGP）コンピュートユニット、192 MBのL2キャッシュ（それぞれ96 MBの2ブロックに分割）、192チャネルインターフェースを介した12個のHBM4メモリスタックを備え、PCIe Gen 6およびUALinkネットワーキングをサポートします。性能はMXFP8/MXFP6で20.13 PFLOPS、MXFP4で40.26 PFLOPSに達します。Instinct MI355Xと比較して、MI455Xはメモリが1.5倍、メモリ帯域幅が2.9倍、MXFP8/MXFP4性能が4倍向上しています。新しいCDNA 5の機能には、非同期データ転送のためのTensor Data Mover、ワークグループクラスタリング、マルチキャスト、データプリフェッチ、スプリットバリア、レイテンシを低減するコマンドプロセッサが含まれます。アクセラレータは1、2、または8つのパーティション（NPS1モードおよびNPS2モード）への空間分割をサポートします。AMDはまた、科学計算、ソブリンAI、およびAI-HPCワークロード向けのInstinct MI430Xを発表し、288 TFLOPSのFP64性能を主張していますが、メモリ構成については詳細を明らかにしていません。