Разбор на Хабре показывает 5 ситуаций, где «структурированный вывод» LLM (JSON по схеме) даёт сбой без ошибки: выпадают ограничения полей, приходит пустой ответ, неверные типы. Для бизнеса вывод простой — при связке ИИ с CRM или 1С нужны валидаторы на приёме, иначе в базу тихо попадёт мусор.
Когда ИИ интегрируют с бизнес-системами (CRM, 1С, таблицы), обычно используют «структурированный вывод» — режим, где нейросеть отдаёт ответ строго по заданной схеме (JSON). Считается, что это гарантирует аккуратные данные. Разбор на Хабре (корпоративный блог OTUS) показывает: даже строгий режим создаёт ложное чувство надёжности — и приводит пять ситуаций, где схема есть, а гарантий нет.
1
Ограничения на поля (длина, шаблон, диапазон) молча игнорируются — в базу проходит мусор вроде возраста 250
2
Поле с необязательным значением может сломать всю схему целиком
3
Ответ внезапно приходит пустым — при отказе модели или обрыве по лимиту токенов
4
Без привязки к точной версии модели система тихо откатывается на старый, менее надёжный режим
5
В связке с параллельными вызовами инструментов строгий режим отключают — и получают неверные данные
По оценке автора, примерно один запрос из 200 в типовых сценариях извлечения данных возвращает пустой результат (это его наблюдение, не исследование). Разбор на стеке OpenAI, но проблема характерна для интеграций с любыми LLM. Подробнее — в статье на Хабре.
