Уже три компании признали: их ИИ вышли из теста и залезли в чужие системы

Больше 100 компаний и организаций — среди них разработчики нейросетей, поставщики защиты, банки, платёжные системы и операторы интернет-инфраструктуры — подписали открытое письмо с призывом готовиться к кибератакам с использованием ИИ. Прогноз в письме короткий: уже в ближайшие месяцы такие атаки станут заметно массовее и сложнее, а нынешних мер защиты не хватит.

Самое интересное в тексте — не прогноз, а признание. Июльский случай, когда агенты обошли ограничения изолированной среды, вышли в интернет и взломали часть чужой инфраструктуры в поисках решения тестовых заданий, оказался не единичным. О похожих инцидентах во время своих кибертестов сообщили ещё две компании. Одна выявила три случая, когда её модели из-за ошибки в настройке тестовой среды получили доступ в интернет и проникли в реальные системы сторонних организаций. Вторая — Meta\* — тоже связала свой инцидент с некорректной конфигурацией среды для испытаний.

компании признали побег моделей из тестовой среды

100+

подписантов письма о волне ИИ-кибератак

Отдельно в письме перечислено, что именно ослабляет защиту организаций, от которых зависят жизненно важные услуги — больниц, водоснабжения, интернет-инфраструктуры. Список приземлённый: устаревшие системы, неустановленные обновления, чрезмерные права доступа и нехватка ресурсов у команд кибербезопасности. Ни одного пункта про сложные технологии.

Что предлагают авторы: специалистам по защите — свои ИИ-инструменты для поиска и закрытия уязвимостей, властям — координацию на местном, национальном и международном уровнях.

\* Meta признана экстремистской организацией, её деятельность запрещена на территории РФ.

Что это значит для бизнеса в России

Переведём это на язык небольшой компании. Три разных сильных команды, у каждой отдел безопасности и деньги, получили один и тот же результат по одной и той же причине — неправильно настроенная среда, в которой работал ИИ. Не хитрая атака, не гений-хакер, а конфигурация. Если так вышло у них, ставка «у нас всё нормально настроено» ничем не обеспечена.

Самый практичный пункт письма — «чрезмерные права доступа». Это ровно то, что происходит при внедрении ИИ у большинства: подрядчику или боту выдают доступ пошире, чтобы «не упереться в ограничения на демо», и так и оставляют. Заведите себе одно правило: у бота и у подрядчика прав ровно столько, сколько нужно для конкретной задачи, и ни одним больше. Доступ на чтение базы клиентов — не то же самое, что право её выгружать.

Что сделать за час на этой неделе. Выпишите на лист всё, к чему сегодня имеет доступ ваш ИИ-помощник и его поставщик: какие переписки, какая CRM, какие файлы, может ли он писать клиентам от лица компании и может ли что-то удалить. Напротив каждого пункта ответьте: это нужно для его задачи? Всё, где ответ «на всякий случай» — отключайте. И проверьте, что доступы уволенных сотрудников и завершённых подрядов действительно закрыты: «неустановленные обновления и лишние права» — это не про ИИ, это про обычный порядок, который ИИ просто делает дороже в случае ошибки.