Novo Framework para Auditoria de Desaprendizagem de Máquina

O Google apresenta um novo framework chamado Regularized f-Divergence Kernel Tests, projetado para auditar o desaprendizado de máquina. O desaprendizado de máquina permite que sistemas de IA "esqueçam" partes específicas dos dados de treinamento sem precisar de um retreinamento completo, o que é crucial para conformidade regulatória (por exemplo, o "direito ao esquecimento" sob o Regulamento Geral sobre a Proteção de Dados, RGPD), segurança de IA e qualidade do modelo. O método tradicional de verificação é o teste de duas amostras, que compara as distribuições de saída de um modelo que nunca viu um registro e de outro que o "esqueceu". No entanto, à medida que os modelos crescem, esse método perde poder estatístico e exige um número enorme de amostras, tornando-o computacionalmente caro. O novo framework, apresentado na 26ª Conferência Internacional sobre Inteligência Artificial e Estatística em 2026 (AISTATS 2026), usa testes regularizados baseados em f-divergências e seleciona automaticamente a melhor divergência e os hiperparâmetros, eliminando a necessidade de ajuste manual. Os autores provam teoricamente que os testes controlam os falsos positivos para qualquer tamanho de amostra, e o risco de falsos negativos tende a zero com o aumento dos dados. O framework também oferece um teste relativo de três amostras que compara o modelo de esquecimento com um modelo retreinado com segurança e com o modelo original comprometido, abordando a impossibilidade de alcançar uma equivalência perfeita de retreinamento. Em experimentos com dados sintéticos, dados de física de altas energias (busca por partículas raras), auditoria de privacidade diferencial e avaliação de métodos de esquecimento, o framework superou ou igualou os métodos de referência, exigindo menos amostras e menos ajustes. Por exemplo, na auditoria de privacidade, o teste de divergência de hockey-stick detectou violações no mecanismo SVT3 usando vários milhares de amostras, enquanto o DP-Auditorium exigia milhões. Na avaliação de esquecimento, apenas o método de rótulo aleatório passou no teste, enquanto os métodos de ajuste fino, poda e enfraquecimento sináptico seletivo provaram ser ineficazes. Os autores enfatizam que usaram implementações simplificadas; ambientes de produção exigem configurações mais rigorosas. Este trabalho foi feito em conjunto com Antonín Schrab e Arthur Gretton.