Как найти ссылки на страницы с 404 ошибками, которые видит Google?

Ответ

Битые ссылки могут быть как следствием неправильной настройки CMS, так и результатом человеческих ошибок.

• Товар снят с продажи или закончился на складе.
• Адрес страницы изменился и не был настроен 301 редирект.
• Пользователь ошибочно скопировал ссылку на страницу.
• Удален медиа-файл (изображение, видео) не проверив, есть на него ссылки или нет.

Почему в log-файлах находятся битые страницы:

• На момент сканирования сайта страницы отдавали 404-тую ошибку, поэтому попади в log как битые.
• Проблемные страницы отвечают 404-той ошибкой только для роботов Google и Яндекс.

Как найти битые страницы, которые видит Google:

• Используя User-agent Google (из log-записей), просканируйте сайт парсером.
• Кроме, User-agent стоит максимально снять ограничения из парсинга.

В целом 404-страницы периодически проверяются поисковыми системами на работоспособность, но со временем 404-тые удаляются из базы поисковых систем.

Еще по теме:

• Какой вариант вывода 404 ошибки будет правильным?
Как лучше сделать вывод 404 ошибки: редиректом на страницу ошибки (error/404/) или по адресу несуществующей страницы показывать 404? Есть отличия между этими вариантами? И какие?...
• Как правильно оформлять 404 страницу на сайте?
Есть сайт-новостник, на котором довольно часто генерируется контент и страницы. Нужно ли оформлять 404 страницу на сайте? Как она должна выглядеть? На что нужно обратить...
• Почему робот Яндекса может повторно обходить 404 страницы?
Объясните, пожалуйста, почему в статистике обхода Вебмастера регулярно обходятся страницы 404, при этом ссылок на них на сайте нет. И второй вопрос: правильно я понимаю,...
• Что делать с исходящими некачественными ссылками и ссылками на несуществующие страницы?
На сайте много исходящих ссылок, которые ведут на 404 страницы. Ещё есть ссылки с комментариев, не совсем качественные, но закрытые nofollow. Подскажите, что делать с...
• Битые ссылки 404: как они влияют на ранжирование сайта, как найти их и исправить
Какие санкции от ПС могут быть, если на сайт ведёт много битых ссылок? Настроили так, что все, кто переходит по такой ссылке, попадают на заглушку...

---

Ольга С.

SEO-аналитик

Работала в рекламе, занималась копирайтингом.

Дожила до своих лет, предсказала будущее, вывела в ТОП сайт ветеринарной клиники.

Сейчас помогаю развивать клиентские проекты в SiteClinic.

Девиз: Рано или поздно это придется сделать, поэтому лучше рано.

o.titarenko@siteclinic.ru

Оцените мою статью: 

(Пока оценок нет)