Когда ИИ должен остановиться: разбираю маршрут отзыва

Когда обсуждают ИИ для работы с отзывами, внимание обычно достаётся тексту: насколько естественно написано, подходит ли тон, нет ли шаблонных фраз.

Но прежде нужно решить: достаточно ли здесь ответа или требуется действие сотрудника?

На примере ОтзывIQ покажу архитектурный разбор одного условного отзыва. Это пример логики, а не результат пилота.

1. Отзыв пришёл

«Товар сломался после первого использования. Верните деньги».

У системы есть текст и оценка. Остальной контекст можно использовать только тогда, когда он действительно доступен. Нельзя достраивать историю покупателя по одной фразе.

2. Проверка условий

Здесь есть жалоба на качество и требование возврата. Одного вежливого текста недостаточно: нужно разобраться в ситуации и определить допустимые действия.

Модель может помочь разобрать сообщение. Но право обещать возврат или компенсацию должно задаваться правилами и полномочиями, а не убедительностью сгенерированного ответа.

3. Выбор маршрута

Ответить — если ситуация типовая, сведений достаточно и ответ укладывается в согласованные правила.

Передать человеку — если нужно уточнение, решение по обращению или проверка существенных обстоятельств.

Зафиксировать исключение — если случай не укладывается в обычный процесс. Для него нужны ответственный и порядок рассмотрения.

Исключение не означает «может подождать». Приоритет проверки задаётся отдельно.

В нашем примере нужен человек: генерация текста сама по себе не решает вопрос возврата.

4. Передача с контекстом

Полезная передача содержит исходный отзыв, оценку, доступные сведения о товаре и причину остановки автоматического ответа.

Например: «Требование возврата. Необходимо проверить обстоятельства и согласовать дальнейшие действия».

Предыдущие обращения можно добавить, если они доступны. Выдуманной истории в карточке быть не должно.

5. Контроль человеком

Сотрудник проверяет сведения, редактирует или отклоняет подготовленный ответ. Решение по ситуации остаётся в пределах его полномочий.

Что реализовано

В ОтзывIQ есть ручные проверка, редактирование, подтверждение или отклонение и отправка ответов, журнал действий. Полный автоматический маршрут из примера здесь не выдаю за проверенную функцию.

Что пока не подтверждено.

Обратная связь пока не получена. Подтверждённых выводов об эффективности нет.

Для оценки такой архитектуры нужны отдельные измерения: правильно ли выбран маршрут, хватает ли контекста сотруднику, какие случаи ошибочно допускаются к автоматическому ответу. Это критерии проверки, а не полученные результаты.

Это продолжение темы границ автоматизации. Важно видеть не только написанный ответ, но и причину решения системы.

Поэтому в этом разборе главное — условия допуска к ответу и остановки перед ним.

В каких случаях вам достаточно автоответа, а когда нужен сотрудник?

Первоначальная публикация: TenChat.