AI बुनियादी ढांचा नई चुनौतियों का सामना कर रहा है: मॉडल बढ़ रहे हैं, विषम कंप्यूटिंग और एजेंट जटिलता क्षेत्र को नया आकार दे रहे हैं
जैसे-जैसे AI मॉडल आर्किटेक्चर अधिक जटिल और विविध होते जा रहे हैं, AI बुनियादी ढांचे को विषम कंप्यूटिंग, मल्टी-मॉडल पाइपलाइन और बढ़ते एजेंट-संचालित कार्यभार के अनुकूल होना होगा। Huawei, Inferact vLLM और 4Paradigm के विशेषज्ञ मुख्य चुनौतियों पर चर्चा करते हैं: विविध AI त्वरक (NVIDIA, Ascend, Cambricon, आदि) का प्रबंधन, बहु-विधि अनुमान को ऑप्टिमाइज़ करना, और AI अंततः बुनियादी ढांचे के प्रबंधन को स्वचालित करके इंजीनियरों को कार्यान्वयन से योजना और सेवा स्तर समझौते (SLA) परिभाषा की ओर कैसे स्थानांतरित कर सकता है।
Huawei
4Paradigm (Fourth Paradigm)
DeepSeek
Alibaba/Qwen
Cosmos (NVIDIA)
Google/DeepMind
Meta
Anthropic
InfoQ 中国29.07 · 06:01
