MosaicLeaks: Vazamento de Dados através de Agentes de IA de Pesquisa e o Método PA-DR para Preveni-lo

Pesquisadores apresentaram o MosaicLeaks, um benchmark para avaliar o vazamento de dados privados por meio de requisições web de agentes de inteligência artificial. O conceito baseia-se no "efeito mosaico": cada requisição individual pode parecer inofensiva, mas, em conjunto, permite reconstruir informações confidenciais (por exemplo, a data de migração de uma infraestrutura em nuvem). O MosaicLeaks contém 1001 cadeias de perguntas locais e da web, onde a resposta a uma pergunta serve como ponte para a seguinte. O agente utiliza as ferramentas Plan, Choose, Read e Resolve. Testes com o Qwen3-4B mostraram que uma instrução simples de "não divulgar" reduz o vazamento de forma insignificante (de 34% para 25,5%) e, ao mesmo tempo, prejudica a produtividade (a taxa de sucesso em cadeias estritas cai de 48,7% para 44,5%). O treinamento focado apenas na resolução de tarefas (recompensa por tarefa) elevou o sucesso para 59,3%, mas o vazamento aumentou para 51,7%. Os autores propuseram o PA-DR, que combina uma recompensa situacional por etapas corretas (comparação de ações no mesmo estágio) e uma recompensa aprendida por privacidade (um classificador Qwen3-4B avalia o risco de vazamento direto e em mosaico). O PA-DR alcançou sucesso de 58,7% e vazamento de 9,9%, enquanto o agente realizava mais requisições, sem revelar detalhes sensíveis. A recompensa situacional também aumentou a eficiência do treinamento: para atingir 55% de sucesso, foram necessárias 5 a 6 vezes menos amostras do que no treinamento baseado apenas no resultado final.