إطار جديد لتدقيق عملية نسيان التعلم الآلي

تقدم جوجل إطارًا جديدًا يُسمى اختبارات النواة المنتظمة لانحراف f، مصممًا لتدقيق عملية نسيان الآلة. يسمح نسيان الآلة لأنظمة الذكاء الاصطناعي "بنسيان" أجزاء محددة من بيانات التدريب دون إعادة تدريب كاملة، وهو أمر بالغ الأهمية للامتثال التنظيمي (على سبيل المثال، "الحق في النسيان" بموجب اللائحة العامة لحماية البيانات، GDPR)، وسلامة الذكاء الاصطناعي، وجودة النموذج. الطريقة التقليدية للتحقق هي اختبار العينتين، الذي يقارن توزيعات المخرجات لنموذج لم يرَ سجلًا قط ونموذج "نسي" ذلك السجل. ومع ذلك، مع نمو النماذج، تفقد هذه الطريقة قوتها الإحصائية وتتطلب عددًا هائلًا من العينات، مما يجعلها مكلفة حسابيًا. الإطار الجديد، المقدَّم في المؤتمر الدولي السادس والعشرين حول الذكاء الاصطناعي والإحصاء في عام 2026 (AISTATS 2026)، يستخدم اختبارات منتظمة مبنية على انحرافات f ويختار تلقائيًا أفضل انحراف ومحددات معاملات، مما يلغي الحاجة إلى الضبط اليدوي. يثبت المؤلفون نظريًا أن الاختبارات تتحكم في النتائج الإيجابية الخاطئة لأي حجم عينة، وأن خطر النتائج السلبية الخاطئة يميل إلى الصفر مع زيادة البيانات. يقدم الإطار أيضًا اختبارًا نسبيًا لثلاث عينات يقارن نموذج النسيان مع نموذج أعيد تدريبه بأمان والنموذج الأصلي المُخترَق، معالجًا استحالة تحقيق تكافؤ مثالي لإعادة التدريب. في التجارب على البيانات الاصطناعية، وبيانات فيزياء الطاقة العالية (البحث عن جسيمات نادرة)، وتدقيق الخصوصية التفاضلية، وتقييم طرق النسيان، تفوق الإطار على الطرق الأساسية أو طابقها مع تطلبه عددًا أقل من العينات وضبطًا أقل. على سبيل المثال، في تدقيق الخصوصية، كشف اختبار انحراف عصا الهوكي عن انتهاكات في آلية SVT3 باستخدام عدة آلاف من العينات، بينما تطلب DP-Auditorium ملايين العينات. في تقييم النسيان، اجتازت طريقة التسمية العشوائية فقط الاختبار، بينما أثبتت طرق الضبط الدقيق والتقليم والإضعاف التشابكي الانتقائي عدم فعاليتها. يؤكد المؤلفون أنهم استخدموا عمليات تنفيذ مبسطة؛ إذ تتطلب بيئات الإنتاج إعدادات أكثر صرامة. تم هذا العمل بالاشتراك مع أنتونين شراب وآرثر غريتون.