MosaicLeaks: Datenlecks durch KI-Forschungsagenten und die PA-DR-Methode zur Prävention
Ein neuer Benchmark, MosaicLeaks, zeigt, dass tiefgehende Forschungsagenten häufig vertrauliche Informationen durch Webanfragen „preisgeben“, selbst wenn jede einzelne Anfrage harmlos ist. Ein reines Training auf Produktivität verschlimmert das Problem, während die vorgeschlagene Methode PA-DR (Privacy-Aware Deep Research) die Leckrate von 34 % auf 9,9 % senkt, ohne die Produktivität zu beeinträchtigen.
Forscher haben MosaicLeaks vorgestellt, einen Benchmark zur Bewertung von Datenlecks durch Webanfragen von KI-Agenten. Grundlage ist der „Mosaikeffekt“: Jede einzelne Anfrage mag harmlos erscheinen, doch in ihrer Gesamtheit ermöglichen sie die Wiederherstellung vertraulicher Informationen (z. B. das Datum einer Migration der Cloud-Infrastruktur). MosaicLeaks enthält 1001 Ketten aus lokalen und Web-Fragen, bei denen die Antwort auf eine Frage als Brücke zur nächsten dient. Der Agent nutzt die Werkzeuge Plan, Choose, Read und Resolve. Tests mit Qwen3-4B zeigten, dass eine einfache Anweisung „nicht preisgeben“ das Leck nur geringfügig reduziert (von 34 % auf 25,5 %) und gleichzeitig die Produktivität verschlechtert (strict chain success fällt von 48,7 % auf 44,5 %). Ein reines Training auf Problemlösung (task reward) steigerte den Success auf 59,3 %, aber das Leck stieg auf 51,7 %. Die Autoren schlugen PA-DR vor, das eine situative Belohnung für korrekte Schritte (Vergleich von Aktionen auf einer Stufe) und eine gelernte Belohnung für Privatsphäre kombiniert (Klassifikator Qwen3-4B bewertet das Risiko eines direkten und mosaikartigen Lecks). PA-DR erreichte einen Success von 58,7 % und ein Leck von 9,9 %, wobei der Agent mehr Anfragen ausführte, jedoch ohne sensible Details preiszugeben. Die situative Belohnung verbesserte auch die Trainingseffizienz: Um einen Success von 55 % zu erreichen, waren 5- bis 6-mal weniger Samples nötig als beim Training auf das Endergebnis.
Quelle: Hugging Face blog —
Original