كيف تتجنب كسر نماذج اللغات الكبيرة أثناء حماية البيانات: تحت غطاء مرشح الحواجز

تتناول المقالة تطوير مرشح حماية مصمم لحماية البيانات الشخصية في التفاعلات مع نماذج اللغة الكبيرة. في حين أن العثور على البيانات الشخصية باستخدام التعبيرات النمطية هو أمر مباشر، فإن التحدي الحقيقي يكمن في دمج المرشح بين التطبيق والنموذج دون كسر التفاعل. يجب أن يتعامل المرشح مع الطلبات العادية والبث واستدعاء الأدوات، وأن يحافظ على بنية الرسائل ويحافظ على البيانات الوصفية. للتعامل مع حالات متعددة من نفس نوع البيانات، يستخدم المرشح جدول تعيين، مع تخصيص نصوص بديلة فريدة مثل <PHONE_1> لكل قيمة مميزة. نظرًا لأن نماذج اللغة الكبيرة عديمة الحالة، يجب على المرشح إعادة معالجة سجل المحادثة بالكامل مع كل طلب. في وضع البث، تصل الاستجابات في أجزاء، وقد يتم تقسيم النصوص البديلة عبر الأجزاء؛ يستخدم المرشح مخزنًا مؤقتًا لتجميع بيانات كافية قبل محاولة إزالة الإخفاء. كما يتعامل مع حقول مختلفة في الاستجابات، بما في ذلك المحتوى والاستدلال ووسائط استدعاء الأدوات، مما يضمن استعادة البيانات بشكل صحيح في جميع هذه الحقول. نما التنفيذ إلى حوالي 1500 سطر من التعليمات البرمجية للبث في محادثات الدردشة وحدها. بالإضافة إلى ذلك، تطلب دعم واجهة برمجة تطبيقات الرسائل تنفيذًا منفصلاً بسبب تنسيقه القائم على الأحداث، مما رفع إجمالي كود الاختبار إلى أكثر من 4000 سطر.