Новости Статьи Авторы О проекте
Инструменты
AI-разбор продаж Стать автором
Новости Инструменты

Cloud.ru открыл бесплатный фильтр Guardrails: как безопасно давать данные любой нейросети

Коротко

Cloud.ru опубликовал бесплатный open-source фильтр Guardrails Filter: он встаёт между вашим приложением и нейросетью, подменяет реальные данные (ПДн, API-ключи, пароли) синтетическими перед отправкой в модель и восстанавливает их в ответе. Работает с моделями любого провайдера, разворачивается в своей инфраструктуре. Это снимает главный страх бизнеса — слить клиентские данные в чужую LLM.

Компания Cloud.ru выложила в открытый доступ инструмент Guardrails Filter — прослойку между корпоративным приложением и языковой моделью. Перед отправкой запроса он находит в тексте чувствительные данные — персональные данные, API-ключи, пароли, другую конфиденциальную информацию — и заменяет их синтетическими значениями. Когда модель возвращает ответ, фильтр восстанавливает оригинальные данные на их местах. Настоящих данных модель не видит.

На публичном бенчмарке pii-bench фильтр показал F1 93,1 балла и точность срабатываний 99,9% — то есть примерно 999 из 1000 срабатываний верны. Можно задавать и свои правила детекции: номера договоров, ID клиентов, кодовые названия проектов.

99,9%
точность срабатываний фильтра (pii-bench)
93,1
F1-балл на том же бенчмарке
0 ₽
развернуть в своей инфраструктуре

Инструмент бесплатный, выложен на GitHub и GitVerse в двух вариантах — Standalone и ExtProc — и работает с ИИ-моделями любого провайдера, не только с платформой Cloud.ru. Подробности — в материале «Кода Дурова».

Источник: Код Дурова
AI-разбор за 30 секунд
Сверим вашу нишу с внедрениями ИИ в похожие компании и покажем, где утекают заявки — за 30 секунд.
Пройти AI-разбор →
Новости

Новостная редакция llmcase.ru: разбираем новости про ИИ и что это значит для бизнеса в России. Каждая новость — со ссылкой на первоисточник. Больше материалов — в блоге автора.