AI इन्फ्रेंस के लिए मौलिक रूप से अलग डेटा इंफ्रास्ट्रक्चर की आवश्यकता: Silk

Nvidia के CEO जेन्सेन हुआंग ने 'AI फैक्ट्रियों' के युग की घोषणा की, लेकिन Silk चेतावनी देता है कि चैटबॉट से स्वायत्त AI एजेंटों में बदलाव एक बड़ी डेटा समस्या पैदा करता है। इन्फ्रेंस OLTP++ की तरह व्यवहार करता है, जिसमें अभूतपूर्व समवर्तीता, रीड स्पाइक्स और अप्रत्याशित एक्सेस पैटर्न होते हैं, जो AWS EBS बर्स्ट क्रेडिट को जल्दी खत्म कर देते हैं और लेटेंसी को 1 मिलीसेकंड से 100 मिलीसेकंड से अधिक कर देते हैं। कंप्यूट नहीं, बल्कि स्टोरेज बाधाएं महत्वपूर्ण विफलता बिंदु बन जाती हैं। Silk एक 'FinRetail' केस स्टडी प्रस्तुत करता है जहां एक RAG-आधारित शॉपिंग असिस्टेंट ने स्टोरेज लेयर को ओवरलोड करके 'सक्सेस डिजास्टर' पैदा किया और पूरी साइट को डाउन कर दिया। Silk के अनुसार, समाधान एक सॉफ्टवेयर-डिफाइंड स्टोरेज एब्स्ट्रैक्शन है जो एप्लिकेशन प्रदर्शन को नेटिव AWS स्टोरेज सीमाओं से अलग करता है, मिश्रित लोड के तहत भी लगातार सब-मिलीसेकंड p99 लेटेंसी प्रदान करता है। Silk की सिमेट्रिक एक्टिव-एक्टिव आर्किटेक्चर और डिस्ट्रीब्यूटेड कैशिंग 20 GiB/s I/O थ्रूपुट डिलीवर कर सकती है, जिससे नाजुक रीड रेप्लिका या ओवरप्रोविजनिंग EC2 कंप्यूट की आवश्यकता समाप्त हो जाती है।