मशीन अनलर्निंग के ऑडिट के लिए नया ढांचा

गूगल ने मशीन अनलर्निंग की जांच के लिए एक नया फ्रेमवर्क पेश किया है, जिसे रेगुलराइज़्ड एफ-डाइवर्जेंस कर्नेल टेस्ट कहा जाता है। मशीन अनलर्निंग एआई सिस्टम को पूरी तरह से पुनः प्रशिक्षित किए बिना प्रशिक्षण डेटा के विशिष्ट हिस्सों को "भूलने" की अनुमति देती है, जो नियामक अनुपालन (उदाहरण के लिए, सामान्य डेटा संरक्षण विनियमन, जीडीपीआर के तहत "भूल जाने का अधिकार"), एआई सुरक्षा और मॉडल गुणवत्ता के लिए महत्वपूर्ण है। पारंपरिक सत्यापन विधि दो-नमूना परीक्षण है, जो उस मॉडल के आउटपुट वितरण की तुलना करती है जिसने कभी रिकॉर्ड नहीं देखा और उस मॉडल की तुलना जिसने उसे "भूल" दिया है। हालाँकि, जैसे-जैसे मॉडल बड़े होते जाते हैं, यह विधि सांख्यिकीय शक्ति खो देती है और बड़ी संख्या में नमूनों की आवश्यकता होती है, जिससे यह संगणनात्मक रूप से महंगी हो जाती है। 2026 में 26वें अंतर्राष्ट्रीय कृत्रिम बुद्धिमत्ता और सांख्यिकी सम्मेलन (AISTATS 2026) में प्रस्तुत नया फ्रेमवर्क, एफ-डाइवर्जेंस पर आधारित नियमित परीक्षणों का उपयोग करता है और स्वचालित रूप से सर्वोत्तम डाइवर्जेंस और हाइपरपैरामीटर का चयन करता है, जिससे मैन्युअल ट्यूनिंग की आवश्यकता समाप्त हो जाती है। लेखक सैद्धांतिक रूप से साबित करते हैं कि परीक्षण किसी भी नमूना आकार के लिए गलत सकारात्मक को नियंत्रित करते हैं, और गलत नकारात्मक का जोखिम बढ़ते डेटा के साथ शून्य हो जाता है। फ्रेमवर्क एक सापेक्ष तीन-नमूना परीक्षण भी प्रदान करता है जो भूलने वाले मॉडल की तुलना सुरक्षित रूप से पुनः प्रशिक्षित मॉडल और मूल समझौता मॉडल से करता है, जो पूर्ण पुनः प्रशिक्षण समतुल्यता प्राप्त करने की असंभवता को संबोधित करता है। सिंथेटिक डेटा, उच्च-ऊर्जा भौतिकी डेटा (दुर्लभ कणों की खोज), विभेदक गोपनीयता की जांच, और भूलने के तरीकों के मूल्यांकन पर प्रयोगों में, फ्रेमवर्क ने बेसलाइन तरीकों से बेहतर प्रदर्शन किया या उनके बराबर प्रदर्शन किया, जबकि कम नमूनों और कम ट्यूनिंग की आवश्यकता हुई। उदाहरण के लिए, गोपनीयता लेखा-परीक्षा में, हॉकी-स्टिक डाइवर्जेंस परीक्षण ने SVT3 तंत्र में कुछ हज़ार नमूनों का उपयोग करके उल्लंघन का पता लगाया, जबकि DP-Auditorium को लाखों की आवश्यकता थी। भूलने के मूल्यांकन में, केवल रैंडम लेबल विधि ने परीक्षण पास किया, जबकि फाइन-ट्यूनिंग, प्रूनिंग और सिलेक्टिव सिनैप्टिक डैम्पनिंग अप्रभावी साबित हुए। लेखक इस बात पर जोर देते हैं कि उन्होंने सरलीकृत कार्यान्वयन का उपयोग किया; उत्पादन वातावरण के लिए अधिक कठोर सेटिंग्स आवश्यक हैं। यह कार्य एंटोनिन श्राब और आर्थर ग्रेटन के साथ संयुक्त रूप से किया गया था।