MosaicLeaks: Gegevenslek via AI-onderzoeksagenten en de PA-DR-methode om dit te voorkomen
Een nieuwe benchmark, MosaicLeaks, toont aan dat diepgaande onderzoeksagenten vaak vertrouwelijke informatie "lekken" via webverzoeken, zelfs als elk individueel verzoek onschadelijk is. Trainen alleen op productiviteit verergert de situatie, terwijl de voorgestelde methode PA-DR (Privacy-Aware Deep Research) het lekken reduceert van 34% naar 9,9% terwijl de productiviteit behouden blijft.
Onderzoekers hebben MosaicLeaks gepresenteerd, een benchmark voor het evalueren van privacylekken via webverzoeken van AI-agenten. Het is gebaseerd op het "mozaïekeffect": elk afzonderlijk verzoek lijkt misschien onschuldig, maar gezamenlijk maken ze het mogelijk om vertrouwelijke informatie te achterhalen (bijvoorbeeld de migratiedatum van een cloudinfrastructuur). MosaicLeaks bevat 1001 ketens van lokale en webvragen, waarbij het antwoord op de ene vraag als brug dient voor de volgende. De agent gebruikt de tools Plan, Choose, Read en Resolve. Tests met Qwen3-4B lieten zien dat een simpele instructie "niet onthullen" het lek slechts in geringe mate vermindert (van 34% naar 25,5%) en tegelijkertijd de productiviteit verlaagt (strict chain success daalt van 48,7% naar 44,5%). Alleen trainen op het oplossen van taken (task reward) verhoogde success naar 59,3%, maar het lek steeg naar 51,7%. De auteurs stelden PA-DR voor, dat situationele beloning voor correcte stappen (vergelijking van acties in één fase) combineert met een geleerde beloning voor privacy (Qwen3-4B-classificator beoordeelt het risico op directe en mozaïeklekken). PA-DR behaalde een success van 58,7% en een lek van 9,9%, waarbij de agent meer verzoeken uitvoerde maar zonder gevoelige details prijs te geven. Situationele beloning verhoogde ook de leerrendement: voor het bereiken van 55% success was 5-6 keer minder samples nodig dan bij training op basis van het eindresultaat.
Bron: Hugging Face blog —
origineel