Клиент — маркетплейс услуг с UGC (отзывы, фото работ, комментарии). Команда модерации из пяти человек не успевала обрабатывать 800+ публикаций в день; жалобы на спам, контакты в тексте и неуместные фото росли. Ручная модерация — узкое горло роста платформы. Задача: AI-агент модерации — автоматическая первичная проверка текста и изображений, маршрутизация в очередь модератора или авто-решение по правилам. На старте спорный контент не публикуется без human review; пороги confidence калибруются по feedback. Реализация: • пайплайн: новая публикация → текст (токсичность, спам, PII, контакты) + vision (NSFW, водяные знаки конкурентов); • policy engine: правила клиента (стоп-слова, ссылки, запрещённые темы); • решения: approve / reject / escalate с confidence score и объяснением; • очередь модератора: приоритет по риску, side-by-side AI-verdict + контент; • feedback: модератор меняет решение → лог для калибровки порогов; • алерт при всплеске reject rate; rate limit на пользователя, бан-листы; • API для мобильного приложения; latency < 3 сек на текст, < 8 сек с изображением. Стек: Python, FastAPI, OpenAI Vision + LLM, PostgreSQL, Redis, React (mod queue), Docker. Приёмка: 500 размеченных примеров, precision/recall согласованы с клиентом. Итог: ~60% публикаций проходит без ручной проверки; время модерации −50%, SLA на публикацию — минуты. NDA: площадка не публикуется.