Ответ
При посещении сайта, на котором не настроен заголовок last-Modified, робот будет производить индексацию всех страниц интернет-ресурса снова и снова, создавая лишнюю нагрузку на сервер. К тому же робот будет тратить краулинговый бюджет и потенциально важные страницы могут долго индексироваться. Поэтому мы рекомендуем реализовать Last-Modified на страницах вашего сайта.
Last-Modified подходит для поисковых систем Яндекс и Google.
Last-Modified помогает поисковым системам быстрее сканировать/индексировать новые страницы за счет распределения краулингово бюджета, но это при условии его правильной реализации.
Принцип работы Last-Modified
Если на странице не вносились изменения с момента предыдущего посещения ботом, сервер отдает 304 ответ. То есть бот понимает, что контент не изменился и нет смысла в переобходе и переиндексации страницы. В результате бот не скачивает содержимое страниц, расходует квоту на реально изменившиеся страницы со времени предыдущей индексации. Либо индексирует новые страницы сайта.
Хотите получить ответ на свой вопрос? Задайте его нам через телеграм-бота!↓
Еще по теме:
- Как увеличить и оптимизировать краулинговый бюджет? У вас есть чек-лист по краулинговому бюджету сайта? Интересует как увеличить краулинговый бюджет и базовые рекомендации по его оптимизации. Ответ Чтобы увеличить краулинговый бюджет и...
- Как сократить количество 301 редиректов для краулинга? В серч консоле гугл бот тратит 23% на обработку 301 редиректов. Как сократить количество 301 редиректов для краулинга? Ответ Если вы обнаружили достаточно большое количество...
- Влияют ли на краулинговый бюджет мусорные страницы и как его увеличить? Есть довольно крупный сайт и в индексе в основном мусорные и не совсем качественные страницы. В последнее время столкнулись с проблемой индексации новых и весьма...
- Что делать с большим количеством 404 страниц? На постоянно меняющейся структуре большого магазина, при обмене данных, возникает большое кол-во 404 (битых ссылок). Нужно ли обращать внимание на такие страницы — делать 301...
- Могут ли страницы пагинации съедать краулинговый бюджет? Почти все страницы категории заканчиваются на /page/2, /page/3 и т.д. Я слышал, что пагинация может "съедать" краулинговый бюджет. Это миф или действительно так? Ответ Страницы...
Есть вопросы?
Задайте их прямо сейчас, и мы ответим в течение 8 рабочих часов.
Отзывы клиентов:
"Сайт выведен из-под фильтра"
Коробов С.А.
Pechimax.ru"Помогли разобраться с микроразметкой даже в новогодние праздники"
"Поисковик вернул сайту «отобранных» ранее посетителей"
Александр Люкс
English-easy.info


