Влияют ли на краулинговый бюджет мусорные страницы и как его увеличить?

Есть довольно крупный сайт и в индексе в основном мусорные и не совсем качественные страницы. В последнее время столкнулись с проблемой индексации новых и весьма полезных страниц.
Скажите, можно ли ускорит индексацию за счёт удаления из индекса тех мусорных страниц? И влияет ли на краулинговый бюджет наличие мусора в индексе?

Ответ

Если новые страницы не индексируются, то стоит заняться оптимизацией краулингового бюджета: помочь боту не тратить бюджет зря на низкокачественные страницы и обходить те, что важны для продвижения.

На краулинговый бюджет негативно влияют некачественные страницы в большой количестве:

страницы-дубли;
страницы с малоценным и спамным контентом;
дубли страниц с get-параметрами и UTM-метками;
бесконечные страницы.

Чтобы увеличить краулинговый бюджет, необходимо:

увеличить скорость загрузки сайта — чем выше скорость, тем больше страниц сможет обойти бот;
настроить внутреннюю перелинковку — бот с большей вероятностью найдет и просканирует новую страницу, если на нее будет стоять ссылка с другой сильной страницы;
оптимизировать редиректы — каждый редирект и цепочки редиректов это трата краулингового бюджета. Убедитесь, что есть необходимость в каждом существующем редиректе;
постараться удалить мусорные страницы из индекса;
указать в sitemap last-modified для тех страниц, содержимое которых не менялось с последнего сканирования ботом. Так боты не будут лишний раз их обходить.

О том как увеличить краулинговый бюджет читайте подробнее в нашей статье.

Хотите получить ответ на свой вопрос? Задайте его нам через телеграм-бота!↓

Задать свой вопрос

Подписаться на рассылку

Еще по теме:

Как сократить количество 301 редиректов для краулинга?

В серч консоле гугл бот тратит 23% на обработку 301 редиректов. Как сократить количество 301 редиректов для краулинга? Ответ Если вы обнаружили достаточно большое количество...

Как увеличить и оптимизировать краулинговый бюджет?

У вас есть чек-лист по краулинговому бюджету сайта? Интересует как увеличить краулинговый бюджет и базовые рекомендации по его оптимизации. Ответ Чтобы увеличить краулинговый бюджет и...

Как правильно удалить старые страницы сайта без трафика?

Есть крупный сайт услуг с 300 тыс. страниц. Сайт хорошо ранжируется, быстро индексируется. Но на сайте много страниц без трафика – совсем старые статьи, новости...

Что в настоящее время влияет на краулинговый бюджет сайта?

Что в настоящее время оказывает влияние на краулинговый бюджет поисковых роботов? И как можно увеличить краулинговый бюджет для сайта? Ответ В настоящее время на краулинговый...

Могут ли страницы пагинации съедать краулинговый бюджет?

Почти все страницы категории заканчиваются на /page/2, /page/3 и т.д. Я слышал, что пагинация может "съедать" краулинговый бюджет. Это миф или действительно так? Ответ Страницы...