Разработал и развернул on-premise AI-инфраструктуру для школы (домен ai.eschool.am, 1200+ пользователей).
Стек:
- FastAPI backend с 5 endpoints
- Ollama с моделями: qwen3:14b, llama3.1:8b, Gemma 4
- RTX 5090 (32GB VRAM), systemd-сервис, API-ключи
Endpoints под образовательные задачи:
— Генерация вопросов из учебного материала
— PDF-обработка и анализ
— Image analysis
— Проверка эссе
— Транскрипция аудио
Оптимизация под армянский язык (best results на qwen3:14b).
Полностью локальная LLM-инфраструктура без зависимости от внешних API.
Production-режим, работает 24/7.