بناء RAG محلي للنصوص الدلالية المعقدة: عندما يفشل الذكاء الاصطناعي السحابي ويفشل MiniLM مع الفلسفة
Sentence-Transformers (UKPLab)
LM Studio
يروي مطور تجربته في بناء خط أنابيب RAG محلي للنصوص الفلسفية لجين روبرتس، باستخدام تضمينات multilingual-e5-large وQwen2.5 عبر LM Studio. يشمل المشروع إعداد البيانات، والترميز، والتقسيم إلى أجزاء، والاسترجاع. يطلب المؤلف تعليقات المجتمع حول بنية فهرس Chroma، وإدارة حالة الحوار، واستخدام أدوات إعادة الترتيب.
قام مطوّر ببناء نظام RAG محلي للنصوص الفلسفية لجين روبرتس بعد أن أخطأت نماذج الذكاء الاصطناعي السحابية وفشلت. تم تنظيف المسح الضوئي الخام، وترميزه بتنسيق XML مع وسوم للمتحدثين، وتقسيمه إلى فقرات. بالنسبة إلى التضمينات، تفوق نموذج multilingual-e5-large على نموذج all-MiniLM-L6-v2 الذي أظهر انحرافاً دلالياً كبيراً في المصطلحات المجردة. تستخدم العملية ChromaDB لتخزين المتجهات وQwen2.5-14B-coder عبر LM Studio للتوليد. تشمل القرارات الهندسية الرئيسية الإثراء المزدوج (بادئة passage: لـ E5، ومطالبة Quotes from my book للـ LLM)، وتصفية نوع الإخراج مثل توجيهات المسرح، ودعم متعدد اللغات. يسلط المؤلف الضوء على ثلاثة أسئلة مفتوحة: ما إذا كان يجب تقسيم فهرس Chroma إلى مجموعات متعددة مع نمو البيانات، وكيفية تنفيذ ذاكرة الحوار دون تضخم ميزانية الرموز، وما إذا كان إعادة ترتيب الترميز المتقاطع من شأنه تحسين دقة الاسترجاع على الكتل الـ 911 الحالية. يُنشر المشروع كسجل بحثي على جيت هاب.
المصدر: Habr — хаб ИИ —
الأصلي