Local AI Agent Gateway: FastAPI, pytest и runbook
Инженерный кейс по интеграции локального AI-агента: связал голосовой AI-клиент с локальными моделями через защищённый FastAPI-gateway.
Спроектировал gateway, работающий только на localhost, добавил bearer-аутентификацию, allowlist моделей и бэкендов, health checks, потоковые и обычные ответы, таймауты и безопасную обработку ошибок. Проверил интеграцию с локальными моделями через Ollama и OpenAI-compatible API.
Для проверки подготовил автоматические pytest-тесты: доступ к health endpoint, обязательную авторизацию, ограничения моделей, потоковый режим, ошибки upstream и таймауты. Также сделал PowerShell runbook с запуском, smoke-test, откатом и разбором типовых проблем.
В репозитории есть документация, результаты проверок и воспроизводимые инструкции. AI-инструменты использовались как помощники: архитектуру, критерии приёмки, проверку результата и итоговые решения контролировал вручную.