AI एसएसडी: LLM इन्फेरेंस में स्टोरेज का प्रतिमान बदलाव
AI इन्फ्रास्ट्रक्चर अब केवल कंप्यूट संसाधनों से आगे बढ़ रहा है, जिसमें इन्फेरेंस अवस्थाएं पहले श्रेणी का संसाधन बन रही हैं। Moonshot AI का Mooncake और NVIDIA का CMX प्लेटफॉर्म जैसे सिस्टम टोकन जनरेशन के लिए रीयल-टाइम डेटा पाथ में स्टोरेज को एकीकृत कर रहे हैं। यह बदलाव कम लेटेंसी, उच्च स्थायित्व और बुद्धिमान डेटा प्रबंधन के लिए डिज़ाइन किए गए AI-विशिष्ट एसएसडी के उद्भव को प्रेरित कर रहा है।
Moonshot AI
NVIDIA
Huawei
Maxio Tech
