Счёт за ИИ в 67 раз меньше: разбор миграции с Claude на дешёвую модель

На Хабре вышел трезвый разбор от команды сервиса JobPath (структурирование вакансий): как они снизили расходы на ИИ, переведя ночную пакетную обработку с Claude Sonnet 3.5 на более дешёвую модель Qwen3.5-Flash. Прогнозные ~$2000 в месяц (важно: именно прогноз, а не уже потраченные деньги) превратились в ~$30 — примерно в 67 раз меньше.

Самое ценное — как проверяли, что клиент не пострадает. Качество оценивал «слепой судья» на базе Claude Opus 4.8: он вслепую сравнивал ответы на 50 реальных продовых вакансиях по полноте, точности, качеству русского языка и обоснованности оценки зарплаты. Средний балл просел с 4,48 до 4,06 из 5, жалоб от пользователей не поступило.

$2000 → $30

прогнозный счёт за месяц до и после (≈67×)

4,48 → 4,06

средний балл качества из 5 в слепой оценке

Отдельный урок — про риск. Ночью у провайдера закончился баланс, но система восприняла сбой оплаты как обычную ошибку и продолжила ретраить — за ночь набежало около 16 000 «заведомо мёртвых вызовов». Денег не списалось (баланс был пуст), но весь батч оказался испорчен. Полный разбор — в статье на Хабре.

Что это значит для бизнеса в России

Если вы гоняете ИИ на массовой рутине — разбор заявок, разметка, извлечение полей из писем, генерация карточек, — вы почти наверняка переплачиваете за топовую модель там, где хватит дешёвой. Разница в счёте может быть не проценты, а десятки раз.

Как сделать это безопасно, а не «на глаз»: (1) соберите 50 реальных примеров ваших задач и прогоните на них старую и новую модель вслепую, сравнивая результат, а не ощущения; (2) заведите «стоп-кран» — лимит вызовов и остановку при серии одинаковых ошибок, чтобы сбой биллинга или API не сжёг за ночь тысячи запросов. Дешёвые модели проседают не в понимании, а в дисциплине — это лечится проверкой и ограничителями, а не отказом от экономии.