Требуется помощь в установке и базовой настройке open-source ИИ-моделей на мой ПК (RTX 4090, Ryzen 9 7950X, 128 ГБ ОЗУ).
Перечень работ:
Установка и настройка ПО:
Ollama / text-generation-webui (Oobabooga)
Stable Diffusion WebUI (Automatic1111 или ComfyUI)
Загрузка и тестирование моделей в формате GGUF (4-bit):
Текст: CapybaraHermes-2.5-Mistral-7B + Llama3.1-8B-instruct
Изображения: SDXL 1.0 + JuggernautXL
Интеграция RAG (LlamaIndex/PrivateGPT) для работы с моими PDF-документами
Оптимизация производительности под моё железо
Требования к специалисту
Опыт работы с:
Локальными LLM (Llama, Mistral)
Генеративными моделями (Stable Diffusion)
Настройкой CUDA и ROCm (для AMD/NVIDIA)
Готовность объяснять шаги в процессе работы.
Опубликован 10.07.2025 в 16:12
Заказ находится в архиве