Чат-ассистент на моём сайте-портфолио: отвечает посетителям по базе знаний — проекты, услуги, формат работы. Можно проверить прямо сейчас по ссылке. Как устроен: — модель вызывается только с сервера, ключи в браузер не попадают; — российский провайдер GigaChat, при сбое включается резервный; — кэш повторяющихся вопросов, лимиты частоты и суточный потолок расходов на модель; — защита от подделки истории переписки; — ответы связаны с карточками проектов: ассистент ведёт посетителя к живым демо; — диалоги сохраняются обезличенно и видны в админ-панели — по ним улучшаю ответы. Тот же подход использую для ботов заказчиков: бот отвечает по вашим документам, а если ответа нет — честно говорит об этом и передаёт вопрос человеку.