Ответ
Причин возникновения таких проблем может быть достаточно много. Например:
- ошибки настройки CloudFlare или подобных CDN;
- блокировка поисковых ботов на сервере;
- блокировка IP адресов, по которым могут заходить поисковые боты;
- блокировка скриптов загрузки страницы, которые например используются в технологии SPA (Single Page Application) сайтов.
Чтобы понять конкретную причину, необходимо проверить как боты поисковых систем видят сайт, каким образом они его сканируют. Для проверки того как видит сайт, например, Google бот, необходимо перейти в GSC и:
1️⃣ Проверить страницу при помощи инструмента Проверка URL;
2️⃣ Запустить проверку страницы непосредственно на сайте при помощи кнопки Проверить страницу на сайте;
3️⃣ Открыть отчет Посмотреть проверенную страницу, в котором можно будет увидеть три вкладки:
— HTML. Код страницы в том виде, в котором его видит Google бот.
— Скриншот страницы.
— Подробнее. В этой вкладке можно увидеть данные о ответе сервера, ресурсах страницы и сообщения из консоли JavaScript.
В результате, вы сможете увидеть и понять, что конкретно не так со страницей и почему бот Google не может обработать код страницы и присваивает ей 404 ошибку.
Важно! Не стоит запрещать к индексации JS и CSS файлы, так как это может привести к тому, что часть страницы бот попросту не увидит и соответственно не проиндексирует.
Также не лишним будет проверить наличие внутренних и внешних ссылок, которые ведут на похожие , но не существующие страницы с ответом сервера 404.
Так, например, пользователь может зайти на страницу site.com/novosti-mira/ и она отдает ответ сервера 200, а в коде внутренняя ссылка может быть такой – site.com/novosti-v-mire/ и она будет отдавать ответ сервера 404, если такой страницы на сайте нет.
Поэтому вам нужно:
- Проверить отчет Не найдено (404) в Google Search Console. Там будет список всех URL адресов, помеченных этим ответом сервера. Обязательно посмотрите, какие страницы ссылаются на несуществующую страницу и в их коде проверяйте ошибки в URL адресах.
- Спарсить сайт при помощи Screaming Frog или Netpeak Spider. В обеих этих программах есть возможность увидеть страницы с ответом сервера 404 и какие страницы ссылаются на несуществующие.
- Проверить ссылочную массу в Ahrefs, Majestic, GSC и др. Когда вы проверите сайт на внешние ссылки и увидите, что есть какое-то количество ссылок, ведущих на страницы с ответом 404, то необходимо связаться с владельцами этих сайтов и попросить исправить ссылки на правильные.
Хотите получить ответ на свой вопрос? Задайте его нам через телеграм-бота!↓
Еще по теме:
- Восстанавливать удаленные страницы или создавать новые? На сайте ранее было удалено множество страниц и по этим URL отдавалась 404 ошибка длительное время. Сейчас есть желание вернуть страницы с этим контентом (доработав...
- Как может повлиять на ранжирование наличие 404 ошибок? Заметил в логах много обращений к: apple-touch-icon.png apple-touch-icon-120x120-precomposed.png apple-touch-icon-120x120.png Этих файлов на сайте нет. Это ерунда, понятно, что можно просто сгенерировать файлы и забыть. Вопрос...
- Как повлияет на продвижение, если определенный уровень вложенности при формировании url отдает 404? Структура региональности реализована через подпапки. Например: site.com/state/texas site.com/state/california Но, при этом, промежуточная вложенность site.com/state отдает 404 код. Может ли негативно сказаться, если определенный уровень вложенности...
- Какой вариант вывода 404 ошибки будет правильным? Как лучше сделать вывод 404 ошибки: редиректом на страницу ошибки (error/404/) или по адресу несуществующей страницы показывать 404? Есть отличия между этими вариантами? И какие?...
- Почему робот Яндекса может повторно обходить 404 страницы? Объясните, пожалуйста, почему в статистике обхода Вебмастера регулярно обходятся страницы 404, при этом ссылок на них на сайте нет. И второй вопрос: правильно я понимаю,...
Есть вопросы?
Задайте их прямо сейчас, и мы ответим в течение 8 рабочих часов.
Отзывы клиентов:
"Мы увидели рост по целому пулу запросов"
Деревянко П.Н.
Expertology.ru"Сайт выведен из-под фильтра"
Коробов С.А.
Pechimax.ru"Повторным аудитом остались довольны на все 100%"
Дмитрий Сокол
Hostings.info

