Парсер tdorion.com — сбор каталога в Excel
ЗАДАЧА
Клиенту нужен инструмент для сбора всего каталога оптового поставщика с авторизацией: обход всех категорий, парсинг товаров с характеристиками, изображениями и категориями, наценка и выгрузка в Excel в формате для маркетплейса.
РЕШЕНИЕ
Разработал многопоточный парсер на Python. Авторизация через API сайта, рекурсивный обход дерева категорий с исключением ненужных, сбор ссылок на товары через пагинацию. Данные о товарах извлекаются из встроенного JSON __NEXT_DATA__ — надёжнее, чем парсить HTML. Реализовал retry-механизм, логирование в файл, прогресс-бар tqdm. Фильтр по цене (от 3000 руб.), наценка 4% с округлением до сотен, экспорт в XLSX с динамическими колонками характеристик.
ЧТО РЕАЛИЗОВАНО
Авторизация через API сайта
Многопоточный обход категорий (ThreadPoolExecutor)
Retry-механизм для сетевых ошибок
Рекурсивный сбор конечных категорий
Парсинг встроенного JSON __NEXT_DATA__
Сбор изображений, характеристик, описаний
Фильтрация по цене (от 3000 руб.)
Наценка 4% с округлением до сотен
Экспорт в Excel с динамическими колонками характеристик
Логирование в файл и консоль
Прогресс-бар tqdm для отслеживания