Есть открытый проект
Это фронтенд для обработки документов с помощью нейронок.
Мне нужна типовая интеграция (там 20шт примеров) YandexGPT API в это приложение.
Нужна как основная интеграция по аналогии с файликами тут:
anything-llm\server\utils\AiProviders
anything-llm\server\utils\EmbeddingEngines
так и вывод во фронтенд. Нужна интеграция самого API генеративной модели плюс эмбединги. Во вложении приложил скриншоты мест, где ожидаются изменения во фронтенде (но возможно, есть что-то, что я упустил).
Тут документация по API от яндекса
Я буду юзать скорее всего сервисный аккаунт, так что интеграция нужна именно с API ключом (который долго живет).
Возможно поможет и ускорит разработку:
Вот тут заметил, что используется LangChain
anything-llm\server\utils\AiProviders\ollama\index.js
У них есть то же самое для яндекса:
Приемка: желательно сделать пул реквест в гитхабе, чтобы я мог посмотреть изменения, спулить ветку и затестить
Главное чтобы:
Можно было выбрать YandexGPT в списке LLM Preference
Можно было выбрать YandexGPT в списке Embedding Preference
Можно было выбрать нужную модель и вставить ключ API
Все это работало (т.е. модель отвечает в интерфейсе, документы векторизуются)