Cloud.ru опубликовал бесплатный open-source фильтр Guardrails Filter: он встаёт между вашим приложением и нейросетью, подменяет реальные данные (ПДн, API-ключи, пароли) синтетическими перед отправкой в модель и восстанавливает их в ответе. Работает с моделями любого провайдера, разворачивается в своей инфраструктуре. Это снимает главный страх бизнеса — слить клиентские данные в чужую LLM.
Компания Cloud.ru выложила в открытый доступ инструмент Guardrails Filter — прослойку между корпоративным приложением и языковой моделью. Перед отправкой запроса он находит в тексте чувствительные данные — персональные данные, API-ключи, пароли, другую конфиденциальную информацию — и заменяет их синтетическими значениями. Когда модель возвращает ответ, фильтр восстанавливает оригинальные данные на их местах. Настоящих данных модель не видит.
На публичном бенчмарке pii-bench фильтр показал F1 93,1 балла и точность срабатываний 99,9% — то есть примерно 999 из 1000 срабатываний верны. Можно задавать и свои правила детекции: номера договоров, ID клиентов, кодовые названия проектов.
99,9%
точность срабатываний фильтра (pii-bench)
93,1
F1-балл на том же бенчмарке
0 ₽
развернуть в своей инфраструктуре
Инструмент бесплатный, выложен на GitHub и GitVerse в двух вариантах — Standalone и ExtProc — и работает с ИИ-моделями любого провайдера, не только с платформой Cloud.ru. Подробности — в материале «Кода Дурова».
