Maxio Tech

नवीनतम AI समाचार, मॉडल और रिलीज़ Maxio Tech.

AI एसएसडी: LLM इन्फेरेंस में स्टोरेज का प्रतिमान बदलाव

AI इन्फ्रास्ट्रक्चर अब केवल कंप्यूट संसाधनों से आगे बढ़ रहा है, जिसमें इन्फेरेंस अवस्थाएं पहले श्रेणी का संसाधन बन रही हैं। Moonshot AI का Mooncake और NVIDIA का CMX प्लेटफॉर्म जैसे सिस्टम टोकन जनरेशन के लिए रीयल-टाइम डेटा पाथ में स्टोरेज को एकीकृत कर रहे हैं। यह बदलाव कम लेटेंसी, उच्च स्थायित्व और बुद्धिमान डेटा प्रबंधन के लिए डिज़ाइन किए गए AI-विशिष्ट एसएसडी के उद्भव को प्रेरित कर रहा है।

Moonshot AIMoonshot AI NVIDIANVIDIA HuaweiHuawei Maxio TechMaxio Tech
QbitAI 量子位07.08 · 07:02

HBM पर्याप्त नहीं, AI SSD विस्फोटक विकास के लिए तैयार

जैसे-जैसे बड़े भाषा मॉडल अनुमान क्षमता और I/O दीवारों से टकराते हैं, SSD स्थिर भंडारण से अनुमान के वास्तविक समय डेटा पथ में आगे बढ़ रहे हैं, HBM, VRAM और DRAM के बाद एक औपचारिक भंडारण स्तर बन रहे हैं। उद्योग में दो मुख्य मार्ग देखे जा रहे हैं: AI-लोड-संवर्धित एंटरप्राइज़ SSD और अनुमान-भाग लेने वाले SSD जो सीधे डेटा शेड्यूल करते हैं, जिनमें Phison, Longsys और Maxio-Infplane गठबंधन जैसी कंपनियाँ अग्रणी हैं।

Moonshot AIMoonshot AI NVIDIANVIDIA HuaweiHuawei Maxio TechMaxio Tech
InfoQ 中国07.08 · 06:02
ताज़ा समाचार