Сервис, куда загружают регламент, инструкцию или базу знаний, а потом спрашивают своими словами и получают ответ с куском документа, из которого он взят.
Как сделано: документ режется на куски по границам предложений с перекрытием, чтобы факт на стыке не потерялся; куски превращаются в векторы и ложатся в FAISS; вопрос ищется по тем же векторам, найденное уходит в модель с правилом «отвечай только по тексту, не знаешь - так и скажи».
Отдельно сделано так, чтобы сервис не врал, когда ключа модели нет: он не притворяется, что сгенерировал ответ, а возвращает найденный фрагмент и честно помечает это в ответе и в проверке здоровья.
Код открыт целиком, с тестами: github.com/pavelbar137-lang/crown-rag-test
Разбор задачи текстом: vc.ru/id6089419/3098061-testovoe-zadanie-dlya-ai-sotrudnika
https://github.com/pavelbar137-lang/crown-rag-test