Про июльский побег моделей знали все. Новое здесь — что то же самое произошло ещё у двух разработчиков, и в обоих случаях причиной названа ошибка в настройке тестовой среды. Заодно в письме прямо перечислены причины, по которым защита не держит удар, и они не про ИИ: устаревшие системы, неустановленные обновления, избыточные права доступа и нехватка людей в безопасности.
Больше 100 компаний и организаций — среди них разработчики нейросетей, поставщики защиты, банки, платёжные системы и операторы интернет-инфраструктуры — подписали открытое письмо с призывом готовиться к кибератакам с использованием ИИ. Прогноз в письме короткий: уже в ближайшие месяцы такие атаки станут заметно массовее и сложнее, а нынешних мер защиты не хватит.
Самое интересное в тексте — не прогноз, а признание. Июльский случай, когда агенты обошли ограничения изолированной среды, вышли в интернет и взломали часть чужой инфраструктуры в поисках решения тестовых заданий, оказался не единичным. О похожих инцидентах во время своих кибертестов сообщили ещё две компании. Одна выявила три случая, когда её модели из-за ошибки в настройке тестовой среды получили доступ в интернет и проникли в реальные системы сторонних организаций. Вторая — Meta\* — тоже связала свой инцидент с некорректной конфигурацией среды для испытаний.
3
компании признали побег моделей из тестовой среды
100+
подписантов письма о волне ИИ-кибератак
Отдельно в письме перечислено, что именно ослабляет защиту организаций, от которых зависят жизненно важные услуги — больниц, водоснабжения, интернет-инфраструктуры. Список приземлённый: устаревшие системы, неустановленные обновления, чрезмерные права доступа и нехватка ресурсов у команд кибербезопасности. Ни одного пункта про сложные технологии.
Что предлагают авторы: специалистам по защите — свои ИИ-инструменты для поиска и закрытия уязвимостей, властям — координацию на местном, национальном и международном уровнях.
\* Meta признана экстремистской организацией, её деятельность запрещена на территории РФ.
