AMD ने Instinct MI455X AI एक्सेलेरेटर पेश किया: 432 GB HBM4 और 40 PFLOPS तक का प्रदर्शन

AMD ने डेटा सेंटरों के लिए Instinct MI455X AI एक्सेलरेटर पेश किए, जो CDNA 5 आर्किटेक्चर पर आधारित हैं और बड़े पैमाने पर AI प्रशिक्षण, अनुमान और रैक-स्केल सिस्टम को लक्षित करते हैं। प्रत्येक एक्सेलरेटर में 432 GB HBM4 मेमोरी है जिसकी पीक बैंडविड्थ 23.3 TB/s है। GPU में 320 बिलियन ट्रांजिस्टर हैं और यह मल्टी-चिपलेट डिज़ाइन का उपयोग करता है: आठ एक्सेलरेटर कॉम्प्लेक्स डाई (ACD) जो TSMC N2 (2nm) प्रक्रिया पर निर्मित हैं, दो फैब्रिक चिपलेट और दो I/O चिपलेट जो TSMC N3P (3nm) प्रक्रिया पर निर्मित हैं। इसमें 256 वर्क ग्रुप प्रोसेसर (WGP) कंप्यूट यूनिट, 192 MB L2 कैश जो दो 96 MB ब्लॉकों में विभाजित है, 192-चैनल इंटरफ़ेस के माध्यम से 12 HBM4 मेमोरी स्टैक, और PCIe Gen 6 तथा UALink नेटवर्किंग का समर्थन है। प्रदर्शन MXFP8/MXFP6 में 20.13 PFLOPS और MXFP4 में 40.26 PFLOPS तक पहुँचता है। Instinct MI355X की तुलना में, MI455X 1.5 गुना अधिक मेमोरी, 2.9 गुना अधिक मेमोरी बैंडविड्थ और 4 गुना अधिक MXFP8/MXFP4 प्रदर्शन प्रदान करता है। नई CDNA 5 सुविधाओं में एसिंक्रोनस डेटा ट्रांसफर के लिए Tensor Data Mover, वर्क-ग्रुप क्लस्टरिंग, मल्टीकास्ट, डेटा प्रीफ़ेचिंग, स्प्लिट बैरियर और कम लेटेंसी के लिए कमांड प्रोसेसर शामिल हैं। एक्सेलरेटर एक, दो या आठ पार्टीशन (NPS1 और NPS2 मोड) में स्पेशियल पार्टीशनिंग का समर्थन करते हैं। AMD ने साइंटिफिक कंप्यूटिंग, संप्रभु AI और AI-HPC वर्कलोड के लिए Instinct MI430X की भी घोषणा की, जो 288 TFLOPS FP64 प्रदर्शन का दावा करता है, लेकिन मेमोरी कॉन्फ़िगरेशन का विवरण नहीं दिया।