AMD Instinct MI300: विस्तृत आर्किटेक्चर और प्रदर्शन विश्लेषण
NVIDIA
Taiwan Semiconductor Manufacturing Company
AMD Instinct MI300 सीरीज, CDNA3 आर्किटेक्चर पर आधारित, एक विषम चिपलेट डिज़ाइन प्रस्तुत करती है जिसमें 8 XCD मॉड्यूल और 4 IOD मॉड्यूल तक शामिल हैं, जो उन्नत CoWoS पैकेजिंग और 3D V-Cache तकनीक का उपयोग करती है। इस लाइनअप में MI300X एक्सेलेरेटर और MI300A APU शामिल हैं, जिसमें एकीकृत Zen 4 कोर हैं, जो 304 कंप्यूट यूनिट, 192 GB तक HBM3 मेमोरी और पिछली पीढ़ी और NVIDIA H100 की तुलना में HPC और AI दोनों कार्यभार में महत्वपूर्ण प्रदर्शन सुधार प्रदान करते हैं।
AMD का Instinct MI300 सीरीज़ दो वेरिएंट में आती है: MI300X एक्सेलरेटर जिसमें 8 XCD कंप्यूट चिपलेट हैं और MI300A APU जिसमें 24 Zen 4 कोर वाले 3 CCD चिपलेट के साथ 6 XCD चिपलेट संयुक्त हैं। दोनों 5nm/6nm TSMC प्रक्रिया पर बने हैं, इनमें 8 HBM3 स्टैक हैं, और TDP लगभग 750-760 W है। MI300X में 192 GB HBM3 मेमोरी और 304 कंप्यूट यूनिट हैं, जबकि MI300A में 128 GB और 228 कंप्यूट यूनिट हैं। प्रदर्शन के लिहाज से, AMD का दावा है कि MI300X FP32/64 में NVIDIA H100 से 2.5 गुना तक तेज़ है और AI सटीकता मोड में प्रतिस्पर्धी है। MI300A ने एक OpenFOAM बेंचमार्क में कम बिजली खपत करते हुए H100 पर 4 गुना बढ़त दिखाई। CDNA3 आर्किटेक्चर FP8, TF32, स्पार्स डेटा को सपोर्ट करने वाले नए मैट्रिक्स कोर और Infinity Cache के साथ पुनः डिज़ाइन की गई मेमोरी पदानुक्रम पेश करता है। यह चिप बाहरी स्विच के बिना स्केलेबल मल्टी-जीपीयू टोपोलॉजी के लिए Infinity Fabric इंटरकनेक्ट का उपयोग करता है।
स्रोत: ServerNews —
मूल