MosaicLeaks: تسرب البيانات عبر وكلاء الذكاء الاصطناعي البحثي وطريقة PA-DR لمنعه

MosaicLeaks هو معيار ابتكره الباحثون لدراسة تسرب الخصوصية من وكلاء البحث العميق الذين يدمجون بين المستندات المحلية الخاصة والبحث العام على الويب. يحتوي على 1,001 سلسلة أسئلة متعددة الخطوات حيث يجب على الوكلاء الإجابة عن أسئلة تربط بين المعلومات الخاصة والعامة. أظهر الاختبار أن الوكلاء كثيرًا ما يسربون البيانات الخاصة من خلال استعلاماتهم على الويب، وأن التدريب فقط على أداء المهمة زاد من التسرب (من 34% إلى 51.7%). طريقة "البحث العميق الواعي بالخصوصية" المقترحة تجمع بين مكافأة المهمة الظرفية ومكافأة خصوصية متعلمة، مما يقلل تسرب المعلومات الكاملة/الإجابات إلى 9.9% مع الحفاظ على نجاح السلسلة الصارم بنسبة 58.7% (قريبًا من 59.3% المحققة بواسطة التدريب على المهمة فقط). كما تعمل طريقة PA-DR على تحسين كفاءة العينات، حيث تتطلب عدد عينات مولدة أقل بمقدار 5-6 مرات لتحقيق نفس أداء المهمة مقارنة بتعزيز التعلم القائم فقط على النتائج.