Просмотров: 20
Дата добавления: 20.09.16 в 14:22
Дата обновления: 05.02.20 в 20:19
Для информационного сервиса был разработан парсер для получения информации о трансферах с сервиса FromAtoB.
Парсер получает полные данные (отправление/прибытие, стоимость, стыковки, время в пути, старт/финиш) по нужным направлениям перелетов, автобусных и ж/д маршрутов. Дальше данные передаются в API сервиса стыковок и используются там для просчета маршрутов, стыковок и цен.
В случае ошибки, парсер снимает скриншот и отправляет всю информацию об ошибке в систему обработки ошибок сервиса.
Парсер полностью эмулирует работу реального пользователя, что дает возможность получать результаты, которые недоступны другим парсерам, а также затрудняют задачу по идентификации парсера, поскольку он не отличим от работы реального человека.
Дополнительно возможна работа парсера через прокси-сервера с проверкой прозрачности.
При этом, данное решение не нарушает правил пользования сайтом, поскольку служит исключительно для проверки наличия услуг, необходимых для поездки пользователя.
Система масштабируется на неограниченное число серверов или виртуальных машин. Число параллельных потоков ограничивается только ресурсом системы, на которой запущен парсер.
Подробнее о разработке системы стыковки авиа- и наземного транспорта в моем портфолио: Борис Колупаев [Boris_Kolupaev]