Как работает NLG в чат-боте
Есть два подхода. Первый — шаблонный NLG: бот вставляет данные в заранее написанные шаблоны. Например, «Ваш заказ №{order_id} доставят {date} с {time_from} до {time_to}». Простой, предсказуемый, не требует LLM. Подходит для уведомлений и подтверждений.
Второй — генеративный NLG на базе LLM: модель формирует ответ свободно, учитывая контекст всего диалога. Применяется там, где ответ должен быть адаптирован к ситуации — консультация, разбор возражения, персонализированная рекомендация.
NLG для отчётов и аналитики
Отдельный класс применений NLG — автоматическое создание текстовых отчётов из табличных данных. Система получает метрики (продажи, конверсия, остатки) и формирует связный текст: «В октябре выручка составила 4,2 млн рублей, что на 12% выше сентября. Основной прирост обеспечила категория X». Такой подход применяется в аналитических ботах для руководителей.
AI-аналитик на основе YandexGPT формирует еженедельный отчёт по продажам для 15 магазинов за 40 секунд. Раньше аналитик тратил на это 4 часа. Подробнее о продукте.
Контроль качества NLG
Главный риск генеративного NLG — галлюцинации: модель добавляет в ответ данные, которых нет во входном контексте. Для контроля используют: (1) RAG — бот отвечает только тем, что реально нашёл в базе; (2) факт-проверку — после генерации отдельный промпт верифицирует, все ли числа совпадают с исходными данными; (3) структурированный вывод (JSON) для критичных данных — модель возвращает структуру, а шаблон собирает текст.
Связанные термины
- NLU — понимание входящего запроса перед генерацией ответа
- LLM — языковая модель, реализующая генеративный NLG
- RAG — способ ограничить NLG реальными данными
- Чат-бот — NLG как часть диалоговой системы
Хотите настроить генерацию текста для вашего бота? Обсудим задачу.
Связаться с нами