Новый фреймворк для аудита машинного забывания
Исследователи Google представили Regularized f-Divergence Kernel Tests — новый фреймворк для аудита машинного забывания, который позволяет статистически надёжно проверять, забыла ли модель конфиденциальные данные. Метод решает проблемы традиционных тестов, таких как потеря чувствительности на больших моделях и ложные срабатывания. Фреймворк успешно протестирован на синтетических данных, задачах физики высоких энергий, аудите дифференциальной конфиденциальности и оценке забывания.
Google представляет новый фреймворк под названием Regularized f-Divergence Kernel Tests, предназначенный для аудита машинного забывания. Машинное забывание позволяет системам ИИ «забывать» определенные части обучающих данных без полного переобучения, что крайне важно для соблюдения нормативных требований (например, «право на забвение» в соответствии с Общим регламентом по защите данных, GDPR),
Показать ещё ↓
Источник: Google Research —
оригинал