سيلك: متطلبات استدلال الذكاء الاصطناعي تتطلب بنية تحتية للبيانات مختلفة جوهريًا

أعلن جنسن هوانغ، الرئيس التنفيذي لشركة Nvidia، عن عصر 'مصانع الذكاء الاصطناعي'، لكن شركة Silk تحذر من أن التحول من برامج الدردشة الآلية إلى وكلاء الذكاء الاصطناعي المستقلين يخلق مشكلة ضخمة في البيانات. يتصرف الاستدلال مثل نظام OLTP++ (معالجة المعاملات عبر الإنترنت) مع درجة غير مسبوقة من التزامن، وارتفاعات مفاجئة في القراءة، وأنماط وصول غير متوقعة، مما يستنزف بسرعة أرصدة الرشقات الخاصة بـ AWS EBS ويتسبب في ارتفاع زمن الوصول من 1 مللي ثانية إلى أكثر من 100 مللي ثانية. تصبح اختناقات التخزين، وليس الحوسبة، نقطة الفشل الحرجة. تقدم Silk دراسة حالة بعنوان 'FinRetail' حيث تسبب مساعد تسوق قائم على تقنية RAG (التوليد المعزز بالاسترجاع) في 'كارثة نجاح' بإغراق طبقة التخزين، مما أدى إلى تعطيل الموقع بأكمله. الحل، وفقًا لـ Silk، هو طبقة تجريد تخزين مدعومة بالبرمجيات تفصل أداء التطبيق عن حدود تخزين AWS الأصلية، مما يوفر زمن وصول ثابت أقل من مللي ثانية بنسبة 99% حتى تحت الأحمال المختلطة. يمكن للهندسة المعمارية النشطة-النشطة المتماثلة والتخزين المؤقت الموزع لشركة Silk تقديم إنتاجية إدخال/إخراج تبلغ 20 جيجابايت/ثانية، مما يلغي الحاجة إلى نسخ متماثلة للقراءة هشة أو الإفراط في توفير موارد الحوسبة EC2.