Разработка AI-ассистента поддержки (LLM + RAG): «всего» один чат-бот, чтобы сократить затраты на поддержку пользователей Проект: интернет-магазин музыкальных плагинов MusicLab Суть задачи: разработать AI-ассистента (LLM + RAG) и сократить с его помощью затраты на поддержку пользователей Главный вызов: извлечь релевантный контекст из базы email-переписки, накопленной за более, чем 20 лет и быстро находить по базе email ответы, недоступные без семантического поиска. Как решали задачу: Для этого мы применили два ключевых инструмента: фреймворк Ollama графовую базу данных Neo4J Ollama — фреймворк, который позволяет запускать и управлять большими языковыми моделями (LLM) прямо на локальных вычислительных ресурсах. Простота взаимодействия и развертывания на устройствах. Контроль данных: это важно, если конфиденциальность — приоритет. Гибкость: локальная работа с LLM открывает возможности для кастомизации и оптимизации. Neo4J — это графовая система управления базами данных. Гибкость: она легко адаптируется к любым структурам данных, особенно если речь идет о сложных взаимосвязях между объектами. Высокая производительность: запросы выполняются молниеносно, даже когда данные имеют запутанную сеть отношений. Оптимальность для сложных задач. Один чат-бот (AI-ассистент) вместо целого отдела, который быстро находит ответы в огромной базе данных и оказывает качественную поддержку пользователей.