Как найти ссылки на страницы с 404 ошибками, которые видит Google?

Ответ

Битые ссылки могут быть как следствием неправильной настройки CMS, так и результатом человеческих ошибок.

• Товар снят с продажи или закончился на складе.
• Адрес страницы изменился и не был настроен 301 редирект.
• Пользователь ошибочно скопировал ссылку на страницу.
• Удален медиа-файл (изображение, видео) не проверив, есть на него ссылки или нет.

Почему в log-файлах находятся битые страницы:

• На момент сканирования сайта страницы отдавали 404-тую ошибку, поэтому попади в log как битые.
• Проблемные страницы отвечают 404-той ошибкой только для роботов Google и Яндекс.

Как найти битые страницы, которые видит Google:

• Используя User-agent Google (из log-записей), просканируйте сайт парсером.
• Кроме, User-agent стоит максимально снять ограничения из парсинга.

В целом 404-страницы периодически проверяются поисковыми системами на работоспособность, но со временем 404-тые удаляются из базы поисковых систем.

Еще по теме:

• Почему бот переобходит 404 страницы без активных ссылок и надо ли при этом анализировать логи?
Имеет ли смысл анализировать логи сайта? Вижу, что бот часто заходит на 404е. Активных ссылок на них нет, все исправлено, но бот регулярно их проверяет....
• Как поступить, если нет возможности удалить битые ссылки вручную?
При наличии битых ссылок на сайте (возможности убрать вручную нет - шаблон ), что лучше: 1️⃣ Закрыть путь в файле robots.txt командой Disallow 2️⃣ Применить...
• Каким сервисом можно проверять не появились ли битые ссылки на страницах?
Посоветуйте инструмент, который может ходить периодически по списку URL и пробивать все внутренние/внешние ссылки - не появились ли битые ссылки на страницах? Ответ По сути,...
• Что делать с исходящими некачественными ссылками и ссылками на несуществующие страницы?
На сайте много исходящих ссылок, которые ведут на 404 страницы. Ещё есть ссылки с комментариев, не совсем качественные, но закрытые nofollow. Подскажите, что делать с...
• Что делать с внешними ссылками, ведущими на страницы 404?
Что делать с внешними ссылками, ведущими на страницы 404? Допустим, у нас был ранее товар, на который активно ссылались, товар более не продается, но ссылки...

---

Ольга С.

SEO-аналитик

Работала в рекламе, занималась копирайтингом.

Дожила до своих лет, предсказала будущее, вывела в ТОП сайт ветеринарной клиники.

Сейчас помогаю развивать клиентские проекты в SiteClinic.

Девиз: Рано или поздно это придется сделать, поэтому лучше рано.

o.titarenko@siteclinic.ru

Оцените мою статью: 

(Пока оценок нет)