Чат-бот поддержки на API нейросети: что он реально закрывает

Поддержка — первый процесс, куда пробуют поставить нейросеть, и первый, где всё ломается о завышенные ожидания. Бот не заменяет отдел. Он забирает повторяющееся и освобождает людей для случаев, где нужен человек.

Что бот делает хорошо

Однотипные вопросы, ответ на которые есть в регламенте или в вашей базе: сроки доставки, условия возврата, статус заказа, режим работы. Такие обращения похожи друг на друга и составляют основную массу первой линии.

Второй пласт — вопросы, где нужен факт из вашей системы. Модель сама по себе не знает, где заказ, но может запросить данные и сформулировать человеческий ответ вместо сухой выгрузки.

Где обязателен человек

Всё, что связано с деньгами, конфликтом и исключениями из правил. Возврат крупной суммы, жалоба, нестандартная договорённость — здесь ошибка стоит дороже сэкономленного времени.

Хороший бот отличается от плохого одним свойством: он умеет сказать «не знаю» и передать диалог дальше. Модель, которая уверенно отвечает на всё, опаснее отсутствия бота — она выдумывает условия, которых у вас нет.

Как считать эффект

Считайте в часах конкретных людей, а не в абстрактной экономии.

1. Сколько обращений приходит за месяц.
2. Какая доля из них типовая — посмотрите выборку из сотни диалогов.
3. Сколько минут занимает один такой ответ у оператора.
4. Умножьте и вычтите стоимость запросов к модели и время на сопровождение.

Даже осторожная оценка обычно показывает, что окупается не скорость, а разгрузка: люди перестают отвечать на одно и то же по двадцать раз в день.

Что понадобится кроме модели

• **База знаний в текстовом виде.** Если регламенты живут в головах сотрудников, бот отвечать не сможет.
• **Доступ к данным заказа.** Иначе половина вопросов упрётся в «уточните у менеджера».
• **Порог уверенности.** Правило, по которому бот замолкает и зовёт человека.
• **Журнал диалогов.** Без него вы не узнаете, где бот ошибается.
• **Ключ с лимитом расхода.** Защита от цикла в коде и от утечки.

Частые ошибки

Первая — прятать от пользователя, что он говорит с ботом. Люди разбираются за две реплики и раздражаются. Честная подпись работает лучше.

Вторая — отсутствие быстрого выхода на человека. Кнопка «позвать оператора» должна быть видна с первого экрана, иначе бот превращается в лабиринт.

Третья — запуск сразу на всех каналах. Возьмите один: чат на сайте или один мессенджер. За месяц станет понятно, где формулировки не работают.

Бот, который отвечает на 70 % обращений с ошибками в 5 % случаев, полезнее бота, отвечающего на 100 % с ошибками в 20 %. Второй придётся выключить через неделю.

Сколько это стоит в месяц

Возьмём поддержку с четырьмя сотнями обращений в сутки. Средний диалог — шесть реплик, в каждой реплике вместе с системной инструкцией и найденным фрагментом базы знаний уходит около девятисот токенов. Получается порядка двух миллионов токенов в день и шестидесяти пяти миллионов в месяц.

Дальше всё зависит от класса модели. На лёгкой модели такой объём стоит в разы дешевле, чем на топовой, а разница в качестве ответов на типовых вопросах обычно не видна пользователю. Поэтому первое решение по бюджету — не «какая модель лучше», а «какая самая дешёвая из тех, что справляются с нашими вопросами».

Второй источник расхода — история диалога. Наивная реализация отправляет всю переписку заново с каждой репликой, и шестая реплика обходится в несколько раз дороже первой. Держите в контексте последние две-три реплики, а более раннее сворачивайте в короткую сводку.

Третий — отладочные прогоны. Цикл по тысяче тестовых диалогов стоит ровно столько же, сколько тысяча живых обращений, и на этапе внедрения именно он чаще всего съедает бюджет незаметно.

С чего начать на этой неделе

Соберите пятьдесят реальных диалогов из поддержки. Разметьте их на три группы: типовые, требующие данных, требующие человека. Это займёт полдня и сразу покажет потолок автоматизации.

Дальше напишите системную инструкцию, в которой прямо перечислено, чего бот делать не должен: обещать сроки, менять условия, называть суммы возвратов. Запреты работают надёжнее пожеланий.

Запустите на внутренних сотрудниках, прежде чем показывать клиентам. Неделя такого прогона убирает большинство неловких ответов и стоит гораздо дешевле репутационного разбора.