AI इन्फ्रेंस के लिए मौलिक रूप से अलग डेटा इंफ्रास्ट्रक्चर की आवश्यकता: Silk
जैसे-जैसे AI एजेंट चैटबॉट से स्वायत्त मल्टी-स्टेप वर्कफ़्लो की ओर बढ़ रहे हैं, इन्फ्रेंस वर्कलोड पारंपरिक क्लाउड स्टोरेज (AWS EBS) को अत्यधिक कंकरेंसी, रीड स्पाइक्स और टेल लेटेंसी से अभिभूत कर रहे हैं। Silk सॉफ़्टवेयर-डिफ़ाइंड स्टोरेज की वकालत करता है जो इन मांगों को नाज़ुक रीड रेप्लिका या ओवरप्रोविज़निंग पर निर्भर हुए बिना संभालने के लिए प्रदर्शन को क्षमता से अलग करता है।
NVIDIA
Silk
The Register AI/ML31.07 · 02:03