Как найти ссылки на страницы с 404 ошибками, которые видит Google?

Ответ

Битые ссылки могут быть как следствием неправильной настройки CMS, так и результатом человеческих ошибок.

• Товар снят с продажи или закончился на складе.
• Адрес страницы изменился и не был настроен 301 редирект.
• Пользователь ошибочно скопировал ссылку на страницу.
• Удален медиа-файл (изображение, видео) не проверив, есть на него ссылки или нет.

Почему в log-файлах находятся битые страницы:

• На момент сканирования сайта страницы отдавали 404-тую ошибку, поэтому попади в log как битые.
• Проблемные страницы отвечают 404-той ошибкой только для роботов Google и Яндекс.

Как найти битые страницы, которые видит Google:

• Используя User-agent Google (из log-записей), просканируйте сайт парсером.
• Кроме, User-agent стоит максимально снять ограничения из парсинга.

В целом 404-страницы периодически проверяются поисковыми системами на работоспособность, но со временем 404-тые удаляются из базы поисковых систем.

Еще по теме:

• Как правильно оформлять 404 страницу на сайте?
Есть сайт-новостник, на котором довольно часто генерируется контент и страницы. Нужно ли оформлять 404 страницу на сайте? Как она должна выглядеть? На что нужно обратить...
• Битые ссылки 404: как они влияют на ранжирование сайта, как найти их и исправить
Какие санкции от ПС могут быть, если на сайт ведёт много битых ссылок? Настроили так, что все, кто переходит по такой ссылке, попадают на заглушку...
• Как правильнее восстановить удаленный раздел на сайте с новыми URL?
Подскажите, как правильнее: удалили раздел. Код 404. Восстанавливаем раздел, даем роботу погулять на нем, потом 301 редирект ставим на переименованный? Или сразу ставим редирект, контент...
• Как остановить сканирование несуществующих url и почему это происходит?
Консоль массово сканирует urlы, которых не существует: добавляет уже существующий раздел на сайте дополнительно в url (например, /news/blog/chpu/), естественно, они отдают 404, и позиции на...
• Что делать с исходящими некачественными ссылками и ссылками на несуществующие страницы?
На сайте много исходящих ссылок, которые ведут на 404 страницы. Ещё есть ссылки с комментариев, не совсем качественные, но закрытые nofollow. Подскажите, что делать с...

---

Ольга С.

SEO-аналитик

Работала в рекламе, занималась копирайтингом.

Дожила до своих лет, предсказала будущее, вывела в ТОП сайт ветеринарной клиники.

Сейчас помогаю развивать клиентские проекты в SiteClinic.

Девиз: Рано или поздно это придется сделать, поэтому лучше рано.

o.titarenko@siteclinic.ru

Оцените мою статью: 

(Пока оценок нет)