Необходимо развернуть окружение и соединить на сервере несколько сервисов.
Предполагаемая платформа — Amazon (но вообще любая, которая работает с видеокартами)
Принимает как входные данные, что нам нужна stateless-архитектура.
На серваке не будет никакого стейта
Схема работы:
Получаем запрос от фронта (текст)
—>
—> обрабатываем его:
1) какой-то контроллер получает запрос который по протоколу общается с другими твоими сервисами он отправляет запрос в
2) в микросервис, который будет делать сами вычисления он должен быть поднимать на машине с видеокартой (тут обычно выдают ключ мы его храним и по нему происходят вычисления и сервис по ключу отдает нам результат)
3) + микросервис, который запускает нейронку
—>
—> получаем ответ (бинарник — модельку .glb), нигде ничего не храним
—> отправляем на фронт
Нужно поставить ограничение обязательно — чтобы не было много запросов.
Вары
Амазон
хаггин Фэйс
Не к спеху. В течение месяца.
Опубликован 12.02.2024 в 18:03
Заказ находится в архиве