ИИ-ассистент поддержки по базе знаний компании в Telegram и на сайте

Ссылка на работу
image image
Задача Компания с большим потоком обращений просила снять с поддержки одинаковые вопросы. Клиенты спрашивали одно и то же - что входит в тариф, как продлить, почему не пришёл документ, куда писать при возврате. Бот на готовых сценариях с кнопками у них уже стоял, он спотыкался на любом вопросе, сформулированном своими словами. Нужен был ассистент, который отвечает по внутренним документам компании и не сочиняет того, чего в них нет. Что сделал Собрал ассистента на Python и FastAPI, один движок отвечает и в телеграм-боте, и в виджете на сайте. Каждый режется на фрагменты по смысловым границам - если резать подряд по числу символов, ответ обрывается на середине пункта регламента. Модель подключена через сервис OpenRouter, отвечает строго по поднятым кускам и называет документ и раздел, откуда взяла формулировку. Подходящего фрагмента нет - ассистент так и пишет, что этого в базе не нашлось, и передаёт диалог оператору вместе с историей переписки. Поэтому запрет отвечать вне контекста стоит в промпте, а ответ, под которым не оказалось ни одной ссылки на источник, клиенту не показывается вовсе. Результат На операторах осталась примерно треть прежнего объёма обращений, остальное ассистент закрывает сам. Ночные и выходные вопросы больше не ждут до утра понедельника. Ссылка на источник под ответом сняла споры - клиент видит, из какого документа взято условие, а оператор при передаче диалога не начинает с нуля.