MosaicLeaks: 연구 AI 에이전트를 통한 데이터 유출과 이를 방지하는 PA-DR 방법

MosaicLeaks는 연구자들이 로컬 개인 문서와 공개 웹 검색을 혼합하는 심층 리서치 에이전트의 개인정보 유출을 연구하기 위해 만든 벤치마크입니다. 이 벤치마크에는 에이전트가 개인 정보와 공개 정보를 연결하는 질문에 답해야 하는 1,001개의 다중 홉 질문 체인이 포함되어 있습니다. 테스트 결과 에이전트가 웹 쿼리를 통해 개인 데이터를 자주 유출하며, 작업 성능만을 목표로 훈련했을 때 유출이 34%에서 51.7%로 악화되는 것으로 나타났습니다. 제안된 개인정보 인식 심층 리서치(PA-DR) 방법은 상황별 작업 보상과 학습된 개인정보 보상(reward)을 결합하여 엄격한 체인 성공률을 58.7%(작업 전용 훈련의 59.3%에 근접)로 유지하면서 답변 및 전체 정보 유출을 9.9%로 줄였습니다. 또한 PA-DR은 샘플 효율성을 개선하여 결과 기반 강화 학습과 동일한 작업 성능에 도달하는 데 필요한 생성 샘플 수를 5~6배 적게 사용합니다.