Cloud.ru Lança Guardrails Filter como Código Aberto para Proteção de Dados ao Trabalhar com LLMs

A Cloud.ru publicou o código-fonte do Guardrails Filter — um proxy reverso transparente entre o cliente e provedores de LLM, que remove dados sensíveis das consultas ao modelo e os restaura nas respostas. A ferramenta detecta e mascara dados pessoais, chaves de API, dados de cartões bancários, SNILS, INN, OGRN e outros tipos de informação usando mais de 260 regras integradas baseadas em expressões regulares e somas de verificação. A operação é realizada em microssegundos e não requer inferência de ML. Estão previstas duas opções de implantação: um serviço standalone em Go (uma imagem docker, três portas) e um sidecar ext_proc para Envoy, que aplica proteção centralizada a todas as solicitações através do gateway. O Guardrails Filter suporta armazenamento de placeholders em memória, Redis ou PostgreSQL com criptografia opcional, e restaura dados mesmo em respostas SSE de streaming e tool-calls. Inclui um console web com registro de log, métricas do Prometheus e painéis do Grafana, além de um modo de teste Ghost Mode. A precisão média (precision) é de 92–99,9%, a cobertura (recall) é de 75–87% e o F1-score é de 82–93%. A ferramenta já está em uso interno na plataforma Cloud.ru Evolution Foundation Models.