В общем, у нас есть задача к новому году: сделать телеграмм бота, на основе этих:
@FaceMemBot
Боту должна отправляться фотка лица, затем пользователь выбирает нужную группу фоток (примерно до 20 штук в каждой группе) и бот выдает пользователю стикерпак с заменой лица на каждой фотке из группы по изначальной фотографии.
Этого бота мы хотим выложить в общий доступ, так что он должен выдерживать большое количество одновременных запросов
У нас уже есть черновой вариант бота (прикрепил видео, как он работает) на основе этой нейросети
Мы рассмотрели варианты по масштабированию этого бота, чтобы общее количество одновременных запросов было высоким, но нас не устраивает цена, ведь сама модель нейросети локальная, а значит для нее нам нужны серверы с большим количеством оперативной памяти (мы посчитали, что для 300 одновременных запросов боту, нам необходимо 175гб оперативной памяти)
Сперва мы хотим понять, есть ли у нас иные варианты с подходящими для этой задачи нейросетями, которые бы работали без дополнительных серверов с минимальными затратами, а также, сколько займёт работа по созданию такого бота (сроки у нас ограничены, до 27 декабря нам бы уже получить готовый вариант без перебоев)
По количеству одновременных запросов: мы пока ориентируемся на 1000 пользователей, которые бы могли получать результат без задержек при одновременно генерации фоток. Возможно, понадобится и большее количество
Группы: они фиксированные, не как сейчас на записи экрана. Нам необходимо примерно 4 группы, которые пользователь может выбрать. Пользователь не может добавлять или редактировать группы