Программа сама отключала водителей от заработка без участия человека — штраф €825 млн

Нидерландский регулятор по защите персональных данных оштрафовал Uber на 824 миллиона 990 тысяч евро. В решении сказано, что компания принимала полностью автоматические решения о водителях и вдобавок недостаточно их об этом информировала. Это два отдельных состава.

Механика была такая. Софт отслеживал манеру езды и оценки от пассажиров. Если он усматривал подозрение в мошенничестве или оценки оказывались слишком низкими, аккаунт отключался автоматически: временно — при подозрении, навсегда — при стабильно низком рейтинге. Пока аккаунт отключён, человек терял доход через платформу. Регулятор формулирует прямо: «Человеческой оценки здесь не было».

Цитата заместителя председателя регулятора Моник Вердье стоит того, чтобы привести её целиком: «Uber совершил серьёзные нарушения. Водителей отключали без права на прощение. С одного момента у них больше не было дохода через Uber. Это запрещено. Компьютер не должен сам принимать решения, имеющие для вас серьёзные последствия. На эти решения сначала должен был посмотреть человек».

€824,99 млн

размер штрафа

2018-2022

период нарушений

171

водитель во Франции, с чьей жалобы всё началось

Дело шло долго и не из Нидерландов. 171 французский водитель обратился в правозащитную организацию Ligue des droits de l'Homme, та подала жалобу во французский регулятор CNIL от их имени. Вести дело досталось нидерландскому ведомству, потому что европейская штаб-квартира компании находится в Нидерландах — так работает принцип одного окна в европейском регламенте.

Потолок штрафа по регламенту — 4% мирового годового оборота; у компании он в 2025 году составил около 44,5 млрд евро. Это уже четвёртый штраф от этого же регулятора: в 2018 году было 600 тысяч евро, в 2023-м десять миллионов, в 2024-м 290 миллионов. Компания подала апелляцию, её представитель заявил Reuters, что они «категорически не согласны с этим решением и непропорциональным штрафом». Регулятор при этом отмечает, что нарушения уже прекращены, и никаких предписаний на будущее в решении нет.

Одну деталь стоит зафиксировать отдельно: сколько всего водителей затронуто, регулятор не раскрыл. Цифра 171 — это только заявители.

Что это значит для бизнеса в России

Самое полезное здесь — за что именно наказали. Не за ошибку алгоритма, не за то, что модель кого-то неверно заподозрила. Наказали за процесс: решение принимала машина без человека, и людям не сказали, что решает машина. Оба нарушения устраняются организационно и стоят копейки по сравнению со штрафом.

Теперь примерьте на себя. Если у вас есть автоматика, которая что-то решает о человеке — блокирует исполнителя за низкий рейтинг, отсеивает резюме по формальным признакам, отключает партнёра при подозрении в накрутке, отказывает в заказе по скорингу — вы находитесь в той же логике. И российский закон о персональных данных тоже требует получать согласие и раскрывать, как обрабатываются данные.

Три вещи, которые закрывают основной риск. Первое: человек в контуре на решениях с серьёзными последствиями. Не на всех — на тех, где человек теряет доход, доступ или возможность работать. Автоматика может пометить и подготовить, финальное «отключить» ставит сотрудник. Второе: письменно сообщите людям, что решение принимает алгоритм, и по каким признакам. Третье: работающая процедура обжалования, где ответ даёт человек, а не тот же алгоритм.

И управленческий вывод: то, что тут вылилось в сумму с восемью нулями, начиналось как экономия на модерации. Автоматическое отключение без проверки — это всегда решение сэкономить на людях, которые проверяют. Считайте стоимость такой проверки как страховку, а не как накладные расходы.