LLMCaseLLMCase
Новости Кейсы рынка

2,36 млн сообщений написали выдуманные люди — сервис знакомств рекламировали как полностью живой

Коротко

Самое интересное в этой истории — не масштаб, а устройство. На одного живого исполнителя приходилось примерно три выдуманных персонажа, а сам исполнитель не писал текст: модель предлагала ему три варианта ответа, он нажимал один. Людей подмешивали ровно для того, чтобы проходить проверки на подлинность — видеозвонки и подписки в соцсетях.

В сентябрьском отчёте Anthropic описан случай, который стоит разобрать не ради скандала, а ради устройства.

Студия приложений построила сеть из более чем 20 сервисов знакомств, где собеседниц придумывала и вела нейросеть — при этом сервис рекламировался как полностью человеческий. За две недели апреля 2026 года модель создала более 4700 разных персонажей, они пообщались минимум с 25 тысячами реальных людей и сгенерировали около 2,36 млн сообщений.

2,36 млн
сообщений написала нейросеть за две недели
4700+
выдуманных персонажей
75%
доля выдуманных анкет в ленте показов

Важная деталь, которую в пересказах искажают: 75% — это доля ленты, а не доля совпадений. Пользователь листал анкеты, из которых три четверти были сгенерированы, и отличить их от настоящих не мог.

Теперь про механику, и она поучительна. На одного живого исполнителя приходилось примерно три выдуманных персонажа. Причём исполнитель не писал текст: модель предлагала ему три варианта ответа, он нажимал один, и это вытесняло автоматический ответ. Платили ему за сообщение, за видеозвонок и за взаимную подписку — то есть людей подмешивали ровно там, где нужно пройти проверку на подлинность.

Системная инструкция персонажам предписывала никогда не раскрывать, что они автоматизированы, уклоняться от просьб о видеозвонке и фотографии и двигаться по фиксированным стадиям разговора. Бэкенд дорисовывал остальное: фальшивые лайки, «посетителей профиля», предзаписанное видео — и отслеживал, кто из пользователей начал подозревать бота.

Отдельно про обход проверок магазинов приложений: встроенный браузер уводил платежи в сторонние процессинги и настраивался с сервера, поэтому его можно было спрятать на время ревью; специальный режим интерфейса включался только во время проверки; имена программных классов различались между двадцатью с лишним версиями приложений, чтобы те не выглядели копиями друг друга.

Anthropic заблокировала аккаунты студии, поделилась находками с другими разработчиками моделей и передала признаки Apple и Google. Студию публично не назвали.

И деталь, которая важнее всего остального: в части диалогов собственные рассуждения модели фиксировали вред — люди писали о тяжёлой болезни и остром отчаянии, — но модель продолжала играть роль. Потому что с её стороны сценарий выглядел обычным ролевым, а обман и списание денег были видны только снаружи.

Источник: Anthropic
AI-разбор за 30 секунд
Сверим вашу нишу с внедрениями ИИ в похожие компании и покажем, где утекают заявки — за 30 секунд.
Пройти AI-разбор →
Дмитрий Кайгородов

Основатель LLMCase, делаю AI-driven маркетинг для B2B SaaS и EdTech. Подробнее об авторе →