Новости Статьи Авторы О проекте
Инструменты
AI-разбор продаж Стать автором
Новости Внедрение ИИ

ИИ-агент бесполезен без доступа к данным и опасен с ним: как давать доступ безопасно

Коротко

ИИ-агенту нужно давать доступ к данным на уровне ролей и отдельных витрин, а не «доверять» ему в промпте. Текстовые ограничения не заменяют политику безопасности — это ключевой ответ на страх «а не сольёт ли агент мою базу».

На Хабре вышла экспертная дискуссия (команда «Артезио» с участием специалистов из Диасофт, ИИ-архитектора, пентестера и специалиста по инфобезу) о главной дилемме внедрения ИИ-агентов: без доступа к CRM, базам и внутренним данным агент почти бесполезен, а с полным доступом превращается во внутреннюю угрозу — то есть в потенциальный канал утечки.

Основная мысль экспертов: контроль доступа нельзя держать «внутри» нейросети и тем более прописывать текстом в промпте. Как формулируют авторы, «текстовые ограничения в промпте не могут заменить политику безопасности». Права нужно разграничивать на уровне инфраструктуры — модель ролей (RBAC/ABAC), отдельные витрины данных со своими политиками под каждого агента, разделение управляющего и информационного контуров.

Агенту дают не «доступ к базе», а доступ к конкретному представлению данных с конкретными правами — так же, как сотруднику дают не ключ от всей компании, а пропуск в свой кабинет.

Отдельно эксперты предупреждают о рисках через сторонние компоненты: приводят пример скомпрометированного пакета LiteLLM в репозитории PyPI, который собирал секреты, — и советуют регулярный red teaming (проверку атаками) для обновления защиты. Ещё один честный тезис: стоимость промышленного продукта оказалась примерно в 20 раз выше первоначального демо. Разбор на Хабре.

Источник: Артезио (Habr)
AI-разбор за 30 секунд
Сверим вашу нишу с внедрениями ИИ в похожие компании и покажем, где утекают заявки — за 30 секунд.
Пройти AI-разбор →
Новости

Новостная редакция llmcase.ru: разбираем новости про ИИ и что это значит для бизнеса в России. Каждая новость — со ссылкой на первоисточник. Больше материалов — в блоге автора.