Cloud.ru открыл исходный код Guardrails Filter для защиты данных при работе с LLM
Cloud.ru
Cloud.ru выложил в открытый доступ Guardrails Filter — обратный прокси, который маскирует чувствительные данные в запросах к языковым моделям и восстанавливает их в ответах. Инструмент поддерживает российские ПДн, работает с любыми LLM-провайдерами и доступен в двух версиях: standalone-сервис и ext_proc-сайдкар для Envoy.
Cloud.ru опубликовал исходный код Guardrails Filter — прозрачного обратного прокси между клиентом и LLM-провайдерами, который удаляет чувствительные данные из запросов к модели и восстанавливает их в ответах. Инструмент обнаруживает и маскирует персональные данные, API-ключи, данные банковских карт, СНИЛС, ИНН, ОГРН и другие типы информации с помощью более 260 встроенных правил на основе
Показать ещё ↓
- Сокращения
- LLM = Large Language Model — большая языковая модель
- PII = Personally Identifiable Information — персональные данные
- SSE = Server-Sent Events — события, отправляемые сервером
- NER = Named Entity Recognition — распознавание именованных сущностей
Источник: Habr — хаб ИИ —
оригинал