ذاكرة HBM ليست كافية، أقراص SSD للذكاء الاصطناعي تستعد لنمو انفجاري

استدلال النماذج اللغوية الكبيرة يواجه جدارين: القدرة والإدخال/الإخراج. معلمات النموذج تستمر في النمو، بينما السياقات الطويلة والحوارات متعددة الأدوار ومهام الوكلاء تزيد من ذاكرة التخزين المؤقت للمفاتيح والقيم (KV Cache)؛ نماذج الخبراء المختلطين (MoE) تقلل من عدد المعاملات النشطة لكل عملية حسابية ولكنها تتطلب تخزين أوزان الخبراء التي تتجاوز بكثير سعة ذاكرة الوصول العشوائي عالية السرعة (VRAM) أو ذاكرة الوصول العشوائي الديناميكية (DRAM). في مراكز البيانات السحابية، تشغل ذاكرة الوصول العشوائي عالية السرعة المكلفة (HBM) بواسطة الأوزان وذاكرة التخزين المؤقت للمفاتيح والقيم، مما يحد من استخدام وحدات معالجة الرسومات؛ على الحافة والأجهزة، تقوم ذاكرة الوصول العشوائي الديناميكية المحدودة أو الذاكرة الموحدة بتقييد حجم النموذج. بينما تكافح الذاكرة لتحمل أعباء الاستدلال وحدها، تدخل محركات الأقراص ذات الحالة الصلبة (SSD) في مسار بيانات الاستدلال في الوقت الفعلي، لتصبح طبقة تخزين رسمية بعد ذاكرة الوصول العشوائي عالية السرعة (HBM) وذاكرة الوصول العشوائي للفيديو (VRAM) وذاكرة الوصول العشوائي الديناميكية (DRAM). هذا التحول واضح في البنية التحتية للاستدلال: تستخدم شركة Moonshot AI منصة Mooncake بنية مفككة تركز على ذاكرة التخزين المؤقت للمفاتيح والقيم، وتجمع بين المعالجات المركزية وذاكرة الوصول العشوائي الديناميكية ومحركات الأقراص ذات الحالة الصلبة كذاكرة تخزين مؤقت موزعة، مع دعم متجر Mooncake للتخزين المؤقت متعدد المستويات باستخدام ذاكرة الوصول العشوائي الديناميكية ومحركات الأقراص ذات الحالة الصلبة (SSD/NVMe)؛ في عام 2026، قدمت شركة NVIDIA منصة تخزين سياق CMX في بنية Vera Rubin، مضيفة طبقة تخزين فلاش متصلة عبر إيثرنت لذاكرة التخزين المؤقت للمفاتيح والقيم، مع إدارة BlueField-4 لمحركات الأقراص ذات الحالة الصلبة NVMe. ومع ذلك، فإن محركات الأقراص ذات الحالة الصلبة التقليدية ليست مناسبة لمهام الاستدلال المستمرة: فهي مصممة لتخزين الملفات والكتل، مع التركيز على عرض النطاق الترددي التسلسلي والعمليات العشوائية في الثانية (IOPS) والموثوقية، بينما يتطلب استدلال النماذج اللغوية الكبيرة توفير البيانات بقيود زمنية صارمة. تُكتب ذاكرة التخزين المؤقت للمفاتيح والقيم في مرحلة التعبئة وتُقرأ بشكل متكرر؛ تحتاج نماذج الخبراء المختلطين إلى أوزان خبراء محددة قبل كل عملية حسابية للطبقة؛ يمكن أن تؤدي قراءة واحدة فائتة إلى تعليق وحدة معالجة الرسومات أو وحدة المعالجة العصبية أو وحدة المعالجة المركزية. عمليات الإدخال/الإخراج في الثانية عند أعماق قوائم انتظار عالية لا تعادل زمن استجابة ثابتًا للوصول ذي العمق المنخفض والدقيق. تُقرأ ذاكرة الفلاش NAND بالصفحات وتُمحى بالكتل، مما يتسبب في تضخيم الكتابة وزمن الاستجابة الذيلية من خلال طبقة ترجمة الفلاش (FTL)؛ وتؤدي كتابات ذاكرة التخزين المؤقت للمفاتيح والقيم المستمرة إلى إجهاد تحمل الفلاش. يتجاهل تخطيط العناوين المنطقية التقليدي (LBA) العلاقات الدلالية بين الطبقات والخبراء وكتل المفاتيح والقيم، مما يشتت البيانات ذات الصلة ويمنع القراءات المتوازية القابلة للتنبؤ. تضيف أنظمة الملفات وأجهزة الكتل وحزم برامج NVMe زمن استجابة. بدون تخطيط عناوين وتقسيم ذاكرة تخزين مؤقت وجدولة أولويات وجلب مسبق غير متزامن وإدارة عمر موجهة لترتيب تنفيذ النموذج، لا يمكن لمحركات الأقراص ذات الحالة الصلبة المشاركة بثبات في توليد الرموز مثل ذاكرة الوصول العشوائي الديناميكية أو ذاكرة الوصول العشوائي للفيديو. يضم السوق نوعين من 'محركات الأقراص ذات الحالة الصلبة الذكية': الأول، محركات أقراص ذات حالة صلبة للمؤسسات محسّنة لأحمال الذكاء الاصطناعي، مثل سلسلة Dongting N3X من InnoGrit، التي تستخدم ذاكرة XL-Flash وذاكرة SLC NAND لزمن استجابة منخفض وتحمل عالٍ، مستهدفة تفريغ ذاكرة التخزين المؤقت للمفاتيح والقيم والبيانات المؤقتة عالية التزامن، مع ادعاءات بثلث زمن الاستجابة وثلاثة أضعاف إنتاجية الكتابة و 17-33 ضعفًا في DWPD مقارنة بمحركات TLC SSD؛ تشمل سلسلة OceanDisk من هواوي محرك EX 560 للأداء العالي في الكتابة العشوائية وSP 560 للأداء المتوازن وLC 560 بسعة تصل إلى 245 تيرابايت لبيانات التدريب وقواعد البيانات المتجهة، مع برنامج تشغيل DiskBooster الذي يتيح التنقل بين المستويات مع ذاكرة الوصول العشوائي عالية السرعة وذاكرة الوصول العشوائي الديناميكية. ثانيًا، تهدف محركات الأقراص ذات الحالة الصلبة الذكية المشاركة في الاستدلال إلى تغيير منطق تشغيل محرك الأقراص، مما يخلق تسلسلًا هرميًا افتراضيًا بين ذاكرة الفلاش وذاكرة الوصول العشوائي الديناميكية وذاكرة الوصول العشوائي للفيديو من خلال وحدة التحكم والبرامج الثابتة والبرمجيات الوسيطة. يستخدم Phison aiDAPTIV محرك أقراص ذو حالة صلبة للتخزين المؤقت وبرمجيات وسيطة لدفق أوزان النموذج بين ذاكرة الوصول العشوائي للفيديو ومحرك الأقراص ذو الحالة الصلبة، مما يوسع حجم النموذج دون إضافة وحدات معالجة رسومات، مع الحفاظ على ذاكرة التخزين المؤقت للمفاتيح والقيم لإعادة الاستخدام، مع تحمل يصل إلى 100 DWPD. تدمج وحدة المعالجة WM8500 SPU من Longsys الضغط والتخزين المؤقت وجدولة البيانات، مع برنامج iSA الذي يتخذ قرارات التنقل بين المستويات والجلب المسبق، باستخدام عملية 5 نانومتر وضغط بدون فقدان وذاكرة HLC وجدولة هجينة لـ NAND. يجمع تحالف Maxio-Infplane (Maxio Tech وInfplane) بين تقنيات رقائق الاستدلال من Infplane مثل التخزين المؤقت متعدد المستويات والجلب المسبق وخبرة Maxio في وحدات تحكم NAND ومحركات الأقراص ذات الحالة الصلبة، مستهدفًا خبراء نماذج الخبراء المختلطين وذاكرة التخزين المؤقت للمفاتيح والقيم والدقة الرقمية، بهدف التوافق دون تعديل ملفات النموذج أو الأطر، وتوسيع التحقق عبر أجهزة الكمبيوتر الذكية ومحطات العمل والأجهزة الطرفية. تختلف هذه المسارات في النطاق التقني، حيث يعزز بعضها الإدخال/الإخراج بينما يشارك البعض الآخر في جدولة وقت التشغيل. المنافسة الصناعية في بدايتها، مع منتجات تم التحقق منها ومحاولات تسويق، وقد لا يحل مستقبل هذه التقنيات محل ذاكرة الوصول العشوائي عالية السرعة أو ذاكرة الوصول العشوائي للفيديو أو ذاكرة الوصول العشوائي الديناميكية، بل يعيد تنظيم السعة والأداء والتكلفة، مما يجعل محركات الأقراص ذات الحالة الصلبة متغيرًا رئيسيًا في اقتصاديات الرموز.