Как улучшить индексацию ИМ и влияет ли вложенность URL на обход страниц роботом?

Ответ

Как таковая вложенность и количество слешей в URL не влияют на индексирование страниц. Гораздо более важный показатель – Click Distance. Это показатель количества кликов, за которые можно попасть с главной страницы на целевую. Другими словами, если на главной странице есть ссылка на site.com/catalog/category/product, то данная страница будет проиндексирована быстрее, чем страница с URL site.com/product, на которую пользователь и робот попадает через несколько кликов.

Для интернет-магазина Ваша структура URL корректна и логична. Проблемы со скоростью индексации могут быть из-за:

• Низкого краулингового бюджета сайта. Одна из самых распространенных проблем крупных интернет-магазинов – необходимость ожидать переиндексацию отдельных страниц в течении месяца.
• Недостаточной перелинковки. Возможно, внутренние подкатегории попросту не перелинкованы должным образом и робот не может дойти до них.
• Скорости загрузки и работы серверов. Если показатели низкие, Google-бот может снизить количество страниц, которые он обходит.

Для увеличения скорости индексирования страниц уделите внимание оптимизации краулингового бюджета. Для этого:

• грамотно настройте Sitemap, используйте last-modified во избежание повторного сканирования неизмененных страниц;
• правильно настройте robots.txt, чтобы мусорные страницы не сканировались;
• оптимизируйте скорость загрузки сайта;
• проработайте внутреннюю перелинковку, добавьте на страницы:
  • быстрые теги;
  • блоки с похожими товарами и сопутствующими товарами;
  • активные ссылки в фильтре и т.д.;
  • микроразметку BreadCrumbs.
• избегайте цепочек редиректов и тупиковых страниц;
• оптимизируйте фильтры.

В первую очередь выделите только приоритетные категории и сообщите об этом роботу. Это можно сделать путем ручной отправки страниц на переобход. Как это сделать массово в Google рассказывали в статье: «Как индексировать 200 URL Google каждый день через Indexing API» .

Еще по теме:

• Как проверить не мешает ли прелоадер индексированию страниц сайта?
На сайте есть preloader, который действует, пока контент страницы полностью не загрузится. Вопросы в связи с этим: как вообще поисковики реагируют на такие прелоадеры? Как...
• Почему Google больше месяца не индексирует страницы сайта после переезда на новый домен?
Привязал сайт к новому домену. По сайтмапу все отлично, робот настроен правильно, страницы тоже хорошие с нормальным контентом (сайт по изготовлению лестниц). И уже месяц...
• Доступны ли к индексации страницы, если лягушка показывает, что они закрыты x-robots-tag?
Лягушка не сканирует метатеги и показывает, что страницы закрыты x-robots-tag, но в индексе, если проверять страницы через site: поисковики выдают эти страницы - почему так?...
• Какие есть способы закрытия ссылки от поисковиков?
Какие сейчас есть способы закрытия ссылки от поисковиков? Есть ли смысл закрывать через AJAX И JS? Ответ AJAX И JS на сегодня действительно реальный и...
• Может ли Cloudflare повлиять на сканирование и индексирование сайта?
Подскажите, пожалуйста, чем может обернуться подключение Cloudflare или других скриптов для защиты от DDOS или накрутки? Есть версии, что подобные скрипты могут мешать сканированию сайта...

---

Siteclinic

d.siteclinic@gmail.com

Оцените мою статью: 

(1 оценок, среднее: 5,00 из 5)