Гарантия возврата
Вернем деньги, если что-то пойдет не так.
Как это работает?
Игорь
Игорь
Верифицированный пользователь
Чат откроется после оплаты
Стоимость услуги
13 000 rub

Срок выполнения

7 дней

Гарантия возврата
Вернем деньги, если что-то пойдет не так.
Как это работает?
Магазин услуг → AI — искусственный интеллект → GigaChat
Игорь
Игорь
Верифицированный пользователь

Локальный OpenAI-совместимый прокси для LLM

Разработаю локальный сервер с OpenAI-совместимым API, который перенаправляет запросы в нужные модели или веб-интерфейсы. Позволяет подключать Kimi, DeepSeek, Claude и другие LLM к вашим инструментам через единый endpoint. Что входит в услугу: - FastAPI-сервер с endpoints /v1/chat/completions и /models; - обработка потокового и обычного ответа; - ротация ключей или аккаунтов; - базовое логирование; - инструкция по запуску.

Заказчик получит:

Рабочий прокси-сервер + исходный код + инструкция.

До начала работы заказчик должен предоставить:

Список моделей/источников, которые нужно проксировать, и формат запросов.

Примеры готовой работы:

client_demo.py
proxy_server.py
Локальный OpenAI-совместимый прокси для LLMЛокальный OpenAI-совместимый прокси для LLM
Развернуть
11
Опубликована: 20.08.26 в 17:32 Обновлена: 21.08.26 в 15:16
11
Опубликована: 20.08.26 в 17:32 Обновлена: 21.08.26 в 15:16
Другие услуги фрилансера
Продолжая пользоваться сайтом, вы соглашаетесь с условиями использования файлов cookie