Есть база знаний, автоматом парсится с эндпоинта, чистится, разбивается на чанки и загружается в assistant_id openAi. Там много товаров (ещё прикрепляется базовая информация)
Далее всё стандартно: системный промпт, промпт пользователя, в ответе json от openAi с id товаров, к которым прикрепляются данные из локальной БД.
Проблема: openAi путает товары: чаще всего отдаёт заголовок одного товара и ID от другого. Иногда отдаёт несуществующие ID (выдумывает сама).
Перепробовал все температуры и topK, разные модели (сейчас стоит 4o, 4.1 вообще галлюцинации были).
Нужен совет, как это побороть, ну и другие практические рекомендации на основе глубокого анализа базы знаний и понимания. От человека с опытом решения подобных проблем.
Опубликован 31.10.2025 в 21:11
Заказ находится в архиве