MosaicLeaks: Datenlecks durch ForschungskI-Agenten und die PA-DR-Methode zur Verhinderung

Tiefgehende Forschungsagenten, die private lokale Dokumente mit externen Tools wie Websuche kombinieren, können über ihre Anfragen sensible Informationen preisgeben. Ein neuer Benchmark, MosaicLeaks, misst dieses Risiko, und eine Trainingsmethode namens PA-DR reduziert die Datenlecks von 34% auf 9,9%, während die Aufgabenleistung erhalten bleibt.

Neues Framework zur Prüfung des Maschinellen Vergessens

Forscher von Google haben Regularized f-Divergence Kernel Tests eingeführt, ein neues Framework zur Prüfung des maschinellen Vergessens, das eine statistisch robuste Verifikation ermöglicht, ob ein Modell vertrauliche Daten vergessen hat. Die Methode adressiert Probleme traditioneller Tests wie den Verlust der Sensitivität bei großen Modellen und falsch positive Ergebnisse. Das Framework wurde erfolgreich auf synthetischen Daten, Aufgaben der Hochenergiephysik, der Überprüfung von differenzieller Privatsphäre und der Bewertung des Vergessens getestet.

Google/DeepMind