Следующий этап ИИ — не про самые большие дата-центры, а про цену запроса

В заметной колонке на Хабре автор описывает смену фокуса в развитии ИИ. Главный тезис: «Следующий этап ИИ будет определяться не тем, кто построит самый большой дата-центр, а тем, кто научится выполнять ту же работу значительно дешевле». Это авторское мнение, а не отраслевой отчёт — но оно точно описывает тренд, который уже виден бизнесу.

Автор выделяет несколько направлений, которые снижают стоимость ИИ:

1
Локальный (on-device) ИИ — часть задач выполняется прямо на устройстве
2
Миниатюризация моделей — компактные модели вместо гигантских под простые задачи
3
Умная маршрутизация — простой запрос уходит на дешёвую модель, сложный — на мощную
4
Наблюдаемость (observability) — контроль качества и стоимости запросов

Конкретных цифр «цена за миллион токенов» в тексте нет — автор ссылается на общий тренд снижения стоимости инференса. Как он резюмирует, «главной становится не максимальная производительность моделей, а стоимость одного запроса». Полностью — в колонке на Хабре.

Что это значит для бизнеса в России

Что это значит для бизнеса: стоимость ИИ — это не фиксированный «прайс за нейросеть», а управляемый параметр. Одну и ту же задачу можно решать дорого (гонять всё через самую мощную модель) или дёшево (простое — на лёгкой модели, сложное — на сильной). Внедрять ИИ год от года становится дешевле.

Практический вывод: если вам считают смету на ИИ-решение, спросите подрядчика, как устроена маршрутизация запросов и можно ли часть задач перевести на более дешёвые модели без потери качества. Это прямой рычаг снизить ежемесячный счёт за ИИ.