Коротко: Сценарий сочетает разные типы шагов — жёсткую логику для предсказуемых развилок и отдельный вызов LLM там, где нужна гибкая интерпретация свободного текста или генерация персонализированного ответа. Смешивать оба подхода в одном сценарии — нормально и эффективно, не нужно делать весь диалог целиком через LLM или целиком без него.
Соблазн сделать весь диалог «через ИИ» понятен — кажется, что так гибче. На практике не каждый шаг того требует, а LLM-вызов на каждую мелочь замедляет ответ и усложняет предсказуемость поведения бота там, где логика и без того простая.
Где LLM-вызов оправдан
- Извлечение структурированных данных из свободного текста клиента — бюджет, дата, тип запроса, когда формулировки могут быть любыми
- Классификация намерения клиента, когда вариантов ответа много и они не сводятся к простому «да/нет»
- Генерация ответа, который должен звучать естественно и учитывать контекст предыдущих сообщений
- Обработка нестандартных или сложных формулировок, не предусмотренных заранее
Где LLM-вызов избыточен
- Кнопочный выбор из заранее заданных вариантов не требует интерпретации — это прямая логика
- Проверка формата данных (номер телефона, дата в нужном виде) — задача для правил, не для модели
- Шаги с предсказуемым, ограниченным набором ответов, где угадывать намерение не нужно
Каждый лишний вызов модели — это задержка ответа клиенту и дополнительная стоимость запроса. Использовать его там, где хватает простой логики, — не гибкость, а лишняя сложность.
Как это выглядит в сценарии
Задача вызова LLM настраивается как отдельный шаг: указывается, что нужно получить из ответа модели (например, извлечь конкретные поля из сообщения клиента), и куда положить результат для использования в следующих шагах диалога. Остальная логика сценария — обычные шаги без обращения к модели.
Клиент: Хочу записаться на маникюр где-то на следующей неделе, лучше ближе к вечеру
[LLM-вызов извлекает: диапазон дат — следующая неделя, предпочтение по времени — вечер]
Бот: Записал предпочтения — следующая неделя, вечернее время. Есть свободные слоты во вторник в 18:00 и в четверг в 19:00.
Дальше логика сценария (показать конкретные слоты, подтвердить запись) работает уже без обращения к модели — только на основе уже извлечённых данных.
Похожий баланс между гибкой обработкой текста и прямой логикой затрагивался и в статье про подключение нейросети к чат-боту — там больше про выбор конкретной модели, здесь про то, где именно в сценарии её вызов оправдан.
Настроить такое сочетание можно в конструкторе Aigine прямо внутри логики сценария, без необходимости решать заранее, весь диалог будет «на ИИ» или совсем без него.
Соберите сценарий с нужным балансом логики
Опишите задачу текстом — платформа Aigine сама определит, где нужна гибкая интерпретация, а где хватит прямой логики.
Частые вопросы
Замедляет ли LLM-вызов ответ бота?
Обращение к модели занимает больше времени, чем прямая логика — поэтому его стоит использовать точечно, там, где гибкость действительно нужна.
Можно ли весь сценарий построить только на LLM-вызовах?
Технически можно, но это избыточно для предсказуемых шагов — комбинация прямой логики и точечных LLM-вызовов работает эффективнее.
Как понять, что конкретному шагу нужен LLM-вызов?
Если ответ клиента может быть сформулирован множеством разных способов, а не сводится к ограниченному набору вариантов — это признак, что нужна гибкая интерпретация.
Какую модель использует LLM-вызов в сценарии?
Уточняйте актуальный список поддерживаемых моделей на платформе — конкретный выбор может зависеть от настроек проекта.