ИИ-агенту нужно давать доступ к данным на уровне ролей и отдельных витрин, а не «доверять» ему в промпте. Текстовые ограничения не заменяют политику безопасности — это ключевой ответ на страх «а не сольёт ли агент мою базу».
На Хабре вышла экспертная дискуссия (команда «Артезио» с участием специалистов из Диасофт, ИИ-архитектора, пентестера и специалиста по инфобезу) о главной дилемме внедрения ИИ-агентов: без доступа к CRM, базам и внутренним данным агент почти бесполезен, а с полным доступом превращается во внутреннюю угрозу — то есть в потенциальный канал утечки.
Основная мысль экспертов: контроль доступа нельзя держать «внутри» нейросети и тем более прописывать текстом в промпте. Как формулируют авторы, «текстовые ограничения в промпте не могут заменить политику безопасности». Права нужно разграничивать на уровне инфраструктуры — модель ролей (RBAC/ABAC), отдельные витрины данных со своими политиками под каждого агента, разделение управляющего и информационного контуров.
Агенту дают не «доступ к базе», а доступ к конкретному представлению данных с конкретными правами — так же, как сотруднику дают не ключ от всей компании, а пропуск в свой кабинет.
Отдельно эксперты предупреждают о рисках через сторонние компоненты: приводят пример скомпрометированного пакета LiteLLM в репозитории PyPI, который собирал секреты, — и советуют регулярный red teaming (проверку атаками) для обновления защиты. Ещё один честный тезис: стоимость промышленного продукта оказалась примерно в 20 раз выше первоначального демо. Разбор на Хабре.
