Отзывы фрилансеров:
+ 3
- 0
Зарегистрирован на сайте 10 лет и 9 месяцев
Бюджет:
10 000 руб
125.42 $ — 106.88 €
Требуется собрать Docker-контейнер с нейросетью TinyLlama 1.1B на базе Llama.cpp (обертку подберите сами), установить на хостинг с GPU (предоставляем доступ по SSH/SFTP) , вытащить наружу HTTP RESTful API метод для запроса к модели, написать тестовый скрипт на Python для отправки запроса к этой модели через данное API с клиентской машины и получения ответа, ответ вывести через print. Формат промптинга должен соответствовать указанному в карточке модели на HuggingFace.
Напишите ваше предложение по стоимости и аналогичный опыт.
Разделы:
Заказ
Опубликован:
09.01.2024 | 22:07 [поднят: 09.01.2024 | 22:07]
Заказ находится в архиве