NoFilter — self-hosted AI-платформа на базе open-source LLM
Разработал собственный conversational AI-сервис с развертыванием языковой модели на собственной инфраструктуре.
В проекте реализовал:
— интеграцию и запуск open-source LLM;
— собственную инфраструктуру для inference;
— диалоговый интерфейс;
— поддержку контекста и продолжительных диалогов;
— голосовое взаимодействие;
— различные режимы общения и персонажей;
— обработку пользовательских запросов и управление сессиями;
— интеграцию модели с пользовательским приложением;
— настройку поведения и системных промптов.
В качестве основной модели используется Qwen3.6-35B-A3B.
Проект позволил получить практический опыт не только работы с LLM API, но и самостоятельного развертывания, настройки и эксплуатации генеративной модели.
Результат: создан работающий AI-сервис с текстовым и голосовым взаимодействием, работающий на собственной LLM-инфраструктуре.
https://t.me/llmqwen_bot