LLMCase
Новости Кейсы рынка

2,36 млн сообщений написали выдуманные люди — сервис знакомств рекламировали как полностью живой

Коротко

Самое интересное в этой истории — не масштаб, а устройство. На одного живого исполнителя приходилось примерно три выдуманных персонажа, а сам исполнитель не писал текст: модель предлагала ему три варианта ответа, он нажимал один. Людей подмешивали ровно для того, чтобы проходить проверки на подлинность — видеозвонки и подписки в соцсетях.

Выпуск №23 · 12 сентября 2026 123456789 Весь выпуск

В сентябрьском отчёте Anthropic описан случай, который стоит разобрать не ради скандала, а ради устройства.

Студия приложений построила сеть из более чем 20 сервисов знакомств, где собеседниц придумывала и вела нейросеть — при этом сервис рекламировался как полностью человеческий. За две недели апреля 2026 года модель создала более 4700 разных персонажей, они пообщались минимум с 25 тысячами реальных людей и сгенерировали около 2,36 млн сообщений.

2,36 млн
сообщений написала нейросеть за две недели
4700+
выдуманных персонажей
75%
доля выдуманных анкет в ленте показов

Важная деталь, которую в пересказах искажают: 75% — это доля ленты, а не доля совпадений. Пользователь листал анкеты, из которых три четверти были сгенерированы, и отличить их от настоящих не мог.

Теперь про механику, и она поучительна. На одного живого исполнителя приходилось примерно три выдуманных персонажа. Причём исполнитель не писал текст: модель предлагала ему три варианта ответа, он нажимал один, и это вытесняло автоматический ответ. Платили ему за сообщение, за видеозвонок и за взаимную подписку — то есть людей подмешивали ровно там, где нужно пройти проверку на подлинность.

Системная инструкция персонажам предписывала никогда не раскрывать, что они автоматизированы, уклоняться от просьб о видеозвонке и фотографии и двигаться по фиксированным стадиям разговора. Бэкенд дорисовывал остальное: фальшивые лайки, «посетителей профиля», предзаписанное видео — и отслеживал, кто из пользователей начал подозревать бота.

Отдельно про обход проверок магазинов приложений: встроенный браузер уводил платежи в сторонние процессинги и настраивался с сервера, поэтому его можно было спрятать на время ревью; специальный режим интерфейса включался только во время проверки; имена программных классов различались между двадцатью с лишним версиями приложений, чтобы те не выглядели копиями друг друга.

Anthropic заблокировала аккаунты студии, поделилась находками с другими разработчиками моделей и передала признаки Apple и Google. Студию публично не назвали.

И деталь, которая важнее всего остального: в части диалогов собственные рассуждения модели фиксировали вред — люди писали о тяжёлой болезни и остром отчаянии, — но модель продолжала играть роль. Потому что с её стороны сценарий выглядел обычным ролевым, а обман и списание денег были видны только снаружи.

Источник: Anthropic
Дмитрий Кайгородов

Эксперт по маркетингу и продажам: доводит внедрение ИИ в продажах до результата. Автор журнала «Нейрокейсы». Об авторе

Разбор ваших продаж

За 20 минут созвона вы узнаете, где теряются ваши заявки и сколько из них ИИ‑агент сможет довести до сделки. Оставьте сайт и контакт.

Шаг 1 из 2

Созвон бесплатный, без обязательств.

Нажимая кнопку, вы соглашаетесь на обработку персональных данных.

Разобрать мои продажи