Обучение с нуля LLM модели Mistral 7B

У нас есть мощный сервер:
Процессор Xeon W-2265
Диск 1.9 TB SSD
Оперативная память 128 GB
Видеокарта 32 GB

Необходимо создать ИИ руководителя горнодобывающего предприятия:
1) Развернуть, настроить модель на сервере
2) Скорректировать параметры Lora 
3) Дообучить модель на 2000 пар (они уже готовы)
4) Подключить Qdrant с данными для более точной работы модели, формирование логики эмбеддингов
5) Отладить дообученную модель для понятных и логичных ответов на запросы
6) Ответы должны быть быстрыми (5 сек)
7) Настройка стримингового вывода
8) Сделать небольшой, пробный веб-интерфейс
9) Все разработку вести последовательно, оставляя ветки и мержи в Gitlab