MosaicLeaks: रिसर्च AI एजेंटों के माध्यम से डेटा रिसाव और इसे रोकने की PA-DR विधि
गहन शोध एजेंट जो निजी स्थानीय दस्तावेजों को वेब सर्च जैसे बाहरी उपकरणों के साथ जोड़ते हैं, अपनी क्वेरी के माध्यम से संवेदनशील जानकारी लीक कर सकते हैं। एक नया बेंचमार्क, MosaicLeaks, इस जोखिम को मापता है, और PA-DR नामक एक प्रशिक्षण विधि कार्य प्रदर्शन को बनाए रखते हुए रिसाव को 34% से घटाकर 9.9% कर देती है।
MosaicLeaks एक बेंचमार्क है जिसे शोधकर्ताओं ने डीप-रिसर्च एजेंटों से प्राइवेसी लीकेज का अध्ययन करने के लिए बनाया है, जो निजी स्थानीय दस्तावेज़ों और सार्वजनिक वेब खोज को आपस में जोड़ते हैं। इसमें 1,001 मल्टी-हॉप प्रश्न श्रृंखलाएँ हैं, जहाँ एजेंटों को ऐसे प्रश्नों के उत्तर देने होते हैं जो निजी और सार्वजनिक जानकारी को जोड़ते हैं। परीक्षण से पता चला कि एजेंट अक्सर अपने वेब क्वेरी के माध्यम से निजी डेटा लीक करते हैं, और केवल कार्य प्रदर्शन के लिए प्रशिक्षण देने से लीकेज और बदतर हो गया (34% से 51.7% तक)। प्रस्तावित 'प्राइवेसी-अवेयर डीप रिसर्च' (PA-DR) विधि एक सिचुएशनल टास्क रिवॉर्ड को एक सीखे गए प्राइवेसी रिवॉर्ड के साथ जोड़ती है, जिससे उत्तर/पूर्ण-सूचना लीकेज 9.9% तक कम हो जाता है, जबकि सख्त चेन सक्सेस 58.7% पर बनी रहती है (जो केवल कार्य-प्रशिक्षण द्वारा प्राप्त 59.3% के करीब है)। PA-DR नमूना दक्षता में भी सुधार करता है, केवल आउटकम-आरएल की तुलना में समान कार्य प्रदर्शन तक पहुँचने के लिए 5-6 गुना कम उत्पन्न नमूनों की आवश्यकता होती है।
स्रोत: Hugging Face blog —
मूल