В колонке на Хабре автор формулирует смену фокуса рынка ИИ: главным становится не размер дата-центра, а стоимость одного запроса. Драйверы — ИИ на устройстве, миниатюрные модели, умная маршрутизация и контроль качества. Для бизнеса вывод простой: цену ИИ-запроса можно снижать, а не платить фиксированный «прайс за нейросеть».
В заметной колонке на Хабре автор описывает смену фокуса в развитии ИИ. Главный тезис: «Следующий этап ИИ будет определяться не тем, кто построит самый большой дата-центр, а тем, кто научится выполнять ту же работу значительно дешевле». Это авторское мнение, а не отраслевой отчёт — но оно точно описывает тренд, который уже виден бизнесу.
Автор выделяет несколько направлений, которые снижают стоимость ИИ:
1
Локальный (on-device) ИИ — часть задач выполняется прямо на устройстве
2
Миниатюризация моделей — компактные модели вместо гигантских под простые задачи
3
Умная маршрутизация — простой запрос уходит на дешёвую модель, сложный — на мощную
4
Наблюдаемость (observability) — контроль качества и стоимости запросов
Конкретных цифр «цена за миллион токенов» в тексте нет — автор ссылается на общий тренд снижения стоимости инференса. Как он резюмирует, «главной становится не максимальная производительность моделей, а стоимость одного запроса». Полностью — в колонке на Хабре.
