Просмотров: 4
Дата добавления: 01.04.20 в 16:54
Для сервиса стыковки авиа- и наземного транспорта, на платформе
ZennoPoster, был разработан обработчик сайта GoEuro. Парсер получает полные данные (отправление/прибытие, стоимость, стыковки, время в пути, старт/финиш) по нужным направлениям перевозок как для авиа, так и для поездов и автобусов. Дальше данные передаются в API сервиса стыковок и используются там для просчета маршрутов, стыковок и цен.
В случае ошибки, парсер снимает скриншот и отправляет всю информацию об ошибке в систему обработки ошибок сервиса.
Парсер полностью эмулирует работу реального пользователя, что дает возможность получать результаты, которые недоступны другим парсерам, а также затрудняют задачу по идентификации парсера, поскольку он не отличим от работы реального человека. Дополнительно возможна работа парсера через прокси-сервера с проверкой прозрачности.
При этом, данное решение не нарушает правил пользования сайтом, поскольку служит исключительно для проверки наличия услуг, необходимых для поездки пользователя.
Система масштабируется на неограниченное число серверов или виртуальных машин. Число параллельных потоков ограничивается только ресурсом системы, на которой запущен парсер.
Подробнее о разработке системы стыковки авиа- и наземного транспорта в моем портфолио: Борис Колупаев [Boris_Kolupaev]