Cloud.ru публикует фильтр Guardrails с открытым исходным кодом для защиты данных в рабочих процессах LLM

Cloud.ru выпустил исходный код своего фильтра Guardrails Filter, прозрачного обратного прокси-сервера, который удаляет конфиденциальные данные из запросов к LLM и восстанавливает их в ответах. Инструмент включает около 260 встроенных правил для обнаружения и маскировки личных данных, ключей API и многого другого, с поддержкой потоковой передачи и вызовов инструментов. Он доступен как отдельный сервис или как ext_proc-сайдкар для Envoy.