image image
NoFilter — self-hosted AI-платформа на базе open-source LLM Разработал собственный conversational AI-сервис с развертыванием языковой модели на собственной инфраструктуре. В проекте реализовал: — интеграцию и запуск open-source LLM; — собственную инфраструктуру для inference; — диалоговый интерфейс; — поддержку контекста и продолжительных диалогов; — голосовое взаимодействие; — различные режимы общения и персонажей; — обработку пользовательских запросов и управление сессиями; — интеграцию модели с пользовательским приложением; — настройку поведения и системных промптов. В качестве основной модели используется Qwen3.6-35B-A3B. Проект позволил получить практический опыт не только работы с LLM API, но и самостоятельного развертывания, настройки и эксплуатации генеративной модели. Результат: создан работающий AI-сервис с текстовым и голосовым взаимодействием, работающий на собственной LLM-инфраструктуре.
https://t.me/llmqwen_bot