безопасности ИИ и качества моделей. Традиционный метод проверки — это двухвыборочный тест, который сравнивает распределения выходных данных модели, которая никогда не видела запись, и модели, которая ее «забыла». Однако по мере роста моделей этот метод теряет статистическую мощность и требует огромного количества выборок, что делает его вычислительно затратным. Новый фреймворк, представленный на 26-й Международной конференции по искусственному интеллекту и статистике в 2026 году (AISTATS 2026), использует регуляризованные тесты на основе f-дивергенций и автоматически выбирает наилучшую дивергенцию и гиперпараметры, устраняя необходимость ручной настройки. Авторы теоретически доказывают, что тесты контролируют ложноположительные срабатывания для любого размера выборки, а риск ложноотрицательных результатов стремится к нулю с увеличением данных. Фреймворк также предлагает относительный трехвыборочный тест, который сравнивает модель забывания с безопасно переобученной моделью и исходной скомпрометированной моделью, решая проблему невозможности достижения идеальной эквивалентности переобучения. В экспериментах на синтетических данных, данных физики высоких энергий (поиск редких частиц), аудите дифференциальной конфиденциальности и оценке методов забывания фреймворк превзошел или сравнялся с базовыми методами, требуя меньше выборок и настройки. Например, при аудите конфиденциальности тест с хоккейной клюшкой обнаружил нарушения в механизме SVT3, используя несколько тысяч выборок, тогда как DP-Auditorium требовал миллионы. При оценке забывания только метод случайных меток прошел тест, в то время как тонкая настройка, сокращение и селективное подавление синапсов оказались неэффективными. Авторы подчеркивают, что использовали упрощенные реализации; для производственных сред

Показать ещё ↓