Как настроить мониторинг изменения цен в тысячах объявлений на Авито
|| 10 май 2020, 23:12
    
Часто требуется мониторить изменения цен в тысячах и десятках тысяч объявлений на Авито или других сайтах. При отсутствии спроса продавцы могут существенно снижать цену в старых объявлениях. Простое изменение цены без применения платного пакета услуг продвижения не поднимает объявление в поиске. Старые объявления с измененными ценами не меняют своих позиций, и чтобы их увидеть может потребоваться пролистать в списке десятки и сотни страниц. Мониторинг первой страницы списка объявлений отображает только новые и поднятые в поиске объявления. Рассмотрим далее, как с помощью программы edrom можно легко отслеживать изменение цен в тысячах и десятках тысяч объявлений на Авито, Юла, Auto.ru, Drom.ru и других сайтах.

Для примера рассмотрим мониторинг изменения цен по условию «Автомобили с пробегом в Республике Татарстан». Мониторинг в других разделах и регионах, например, «Телефоны» в Новосибирске, «Бытовая техника» в Москве и Московской области, «Ноутбуки» в Санкт-Петербурге и т.д. можно реализовать аналогично – изменятся только ссылки.
 
После выставления критериев поиска по условию «Автомобили с пробегом в Республике Татарстан» отображается 23 466 объявлений:

Выставление критериев поиска по условию «Автомобили с пробегом в Республике Татарстан» 
В результатах поиска авито отображает первые 5000 объявлений. Это видно по  области ссылок перехода между страницами:

Авито отображает только первые 5000 объявленийВсего 100 страниц, на каждой 50 объявлений, т.е. всего 5000. Несмотря на это ограничение в программе можно отследить изменение цен во всех 23 466 объявлениях. Рассмотрим поэтапно, как это сделать.
 
Этап 1. Разбиение исходного критерия выборки на несколько подкритериев (данный этап можно пропустить, если необходимо мониторить менее 5000 объявлений). Разбиение заключается в таком делении исходного критерия, что в результатах выборки по каждому новому подкритерию на сайте отображается менее 5000 объявлений. Для нашего примера достаточно разбить исходный критерий на пять подкритериев (5x5000=25 000), что обеспечит охват всех 23 466 объявлений. Разбиение можно провести по любому параметру выборки, который доступен для этой категории товаров. Выберем параметр «цена» для создания пяти следующих подкритериев:
 
1) Авто с пробегом, Татарстан, цена до 200 000 тыс. руб
2) Авто с пробегом, Татарстан, цена от 200 001 до 350 000 тыс. руб
3) Авто с пробегом, Татарстан, цена от 350 001 до 500 000 тыс. руб
4) Авто с пробегом, Татарстан, цена от 500 001 до 700 000 тыс. руб
5) Авто с пробегом, Татарстан, цена от 700 001 тыс. руб
 
Каждый из этих подкритериев в своих результатах поиска отображает менее 5000 объявлений. Добавление их в программу позволить отслеживать все 23 466 объявлений.
 
Этап 2. Добавление в программу одного критерия (если на сайте в результатах поиска менее 5000 объявлений) или нескольких подкритериев (если в результатах более 5000 объявлений). Рассмотрим, как добавить первый подкритерий из пяти, т.е. «Авто с пробегом, Татарстан, цена до 200 000 тыс. руб». После выставления критериев поиска отображается 4 662 объявлений:

Добавление в программу одного критерия (если на сайте в результатах поиска менее 5000 объявлений) или нескольких подкритериев (если в результатах более 5000 объявлений). 
В буфер обмена из адресной строки браузера копируется HTTP-запрос:

В буфер обмена из адресной строки браузера копируется HTTP-запрос 
Открывается «Редактор запросов» (через Главное меню\Мониторинг\Новое условие поиска…). В поле Строка запроса (HTTP-запрос типа GET) вставляется ссылка из буфера обмена:

Использование «Редактора запросов» для формирования ссылки  
В поле Произвольный комментарий можно ввести любой поясняющий текст, например, «Авто с пробегом, Татарстан, цена до 200 000 тыс. руб». Параметр Режим работы устанавливается в значение Поиск всех объявлений (загрузка всех страниц):


В результате этих действий в программу добавлен запрос для мониторинга объявлений с первой страницы списка объявлений, ссылка на которую имеет вид https://www.avito.ru/tatarstan/avtomobili/s_probegom-ASgBAgICAUSGFMjmAQ?cd=1&pmax=200000&s=104, см. рисунок:

Запрос для мониторинга объявлений 
Ссылка, которая добавлена в программу, позволяет мониторить 50 объявлений с первой страницы с результатами поиска. Чтобы мониторить все 4 662 объявлений, необходимо добавить ссылки еще на 4 662/50=93 страницы. Процесс создания ссылок на последующие страницы можно автоматизировать с помощью команды Автоматическая генерация. Для этого следует выделить добавленный запрос и выбрать соответствующую команду в контекстном меню:

Создание ссылок на последующие страницы можно автоматизировать с помощью команды Автоматическая генерация
В результате будет добавлено 93 запроса, которые позволяют мониторить все объявления по выбранным условиям выборки объявлений:

Настройка мониторинга всех объявлений по выбранным условиям             
 
Этап 3. Оптимальная настройка мониторинга avito. 
 
Цены в старых объявлениях изменяются не так часто, а процесс мониторинга большого количества страниц достаточно требователен к аппаратным и временным ресурсам. Поэтому осуществлять автоматическую проверку изменения цены большого количества объявлений рекомендуется не чаще, чем один раз в 15-30 минут. Для этого достаточно установить соответствующее значение в глобальных настройках мониторинга (Главное меню\Сервис\Параметры мониторинга…\вкладка Мониторинг и анализ), см. рисунок:

вкладка Мониторинг и анализ  
Часто возникает другая достаточно распространенная задача: оперативно мониторить самые свежие новые объявления и периодически проверять старые объявления на изменение цен. В программе эта задача решается просто – первая страница с результатами поиска проверяется с высокой частотой (например, 1 раз в 3 секунды), а вторая и последующие, на которых могут появиться измененные в цене объявления, – с низкой частотой (например, 1 раз в 30 минут).

Чтобы поиск по отдельным ссылкам производить с низкой частотой, достаточно изменить параметр Периодичность. Этот параметр задает период проверки отдельных страниц относительно периода мониторинга, установленного в глобальных настройках мониторинга через значение Пауза между циклами мониторинга. Так, при значениях Периодичность равное 10 и Паузы между циклами мониторинга равное 3 секунды, проверка ссылки будет осуществляться через каждые 30 секунд (10x3 сек).
Рассмотрим, как для нашего примера «Авто с пробегом, Татарстан, цена до 200 000 тыс. руб» настроить проверку самых свежих новых объявлений через каждые 3 секунды, а старые объявления проверять каждые 30 минут.
 
а) Устанавливаем в глобальных настройках мониторинга значение Пауза между циклами мониторинга – 3 секунды:

Пауза между циклами мониторинга  
б) Проверим, что в настройках мониторинга первой страницы установлено значение Периодичности равное 1:
 Установка значения Периодичности 
в) Рассчитаем значение параметра Периодичность для тех страниц, на которых будет проводиться проверка изменения цен через каждые 30 минут при частоте мониторинга 3 секунды. Для этого используется формула:
 
Периодичность = Требуемый период проверки (в секундах)/Пауза между циклами мониторинга (в секундах)
 
Для нашего примера: Периодичность = 30x60/3 = 600. 

Выделяем страницы, на которых расположены старые объявления (для выделения диапазона удерживается клавиша SHIFT) и нажимаем Редактировать условие поиска:

Редактирование условий поиска 
Для выделенных запросов устанавливаем значение Периодичность равное 600:

Установка значение Периодичности 
Таким образом, в программе можно настроить проверку самых свежих новых объявлений через каждые 3 секунды, а изменений цен в старых объявлениях – через каждые 30 минут. По такому же принципу производится настройка мониторинга свежих/старых объявлений и на других сайтах – Юла, Auto.ru, Drom.ru и т.д. Отличия будут связаны только с параметрами списка объявлений на том или ином сайте: количество объявлений на странице, ограничение на количество объявлений в результатах поиска и ограничение на количество страниц.
Купить программу
Регионы и категории
Обратная связь
Справка
Разделы сайта
Архив
Май 2020 (2)
Апрель 2020 (1)
Март 2020 (2)
Декабрь 2019 (1)
Ноябрь 2019 (1)
Август 2019 (1)
Поиск по сайту


Теги