Как найти ссылки на страницы с 404 ошибками, которые видит Google?

Ответ

Битые ссылки могут быть как следствием неправильной настройки CMS, так и результатом человеческих ошибок.

• Товар снят с продажи или закончился на складе.
• Адрес страницы изменился и не был настроен 301 редирект.
• Пользователь ошибочно скопировал ссылку на страницу.
• Удален медиа-файл (изображение, видео) не проверив, есть на него ссылки или нет.

Почему в log-файлах находятся битые страницы:

• На момент сканирования сайта страницы отдавали 404-тую ошибку, поэтому попади в log как битые.
• Проблемные страницы отвечают 404-той ошибкой только для роботов Google и Яндекс.

Как найти битые страницы, которые видит Google:

• Используя User-agent Google (из log-записей), просканируйте сайт парсером.
• Кроме, User-agent стоит максимально снять ограничения из парсинга.

В целом 404-страницы периодически проверяются поисковыми системами на работоспособность, но со временем 404-тые удаляются из базы поисковых систем.

Еще по теме:

• Что делать с исходящими некачественными ссылками и ссылками на несуществующие страницы?
На сайте много исходящих ссылок, которые ведут на 404 страницы. Ещё есть ссылки с комментариев, не совсем качественные, но закрытые nofollow. Подскажите, что делать с...
• Как повлияет на продвижение, если определенный уровень вложенности при формировании url отдает 404?
Структура региональности реализована через подпапки. Например: site.com/state/texas site.com/state/california Но, при этом, промежуточная вложенность site.com/state отдает 404 код. Может ли негативно сказаться, если определенный уровень вложенности...
• Какой вариант вывода 404 ошибки будет правильным?
Как лучше сделать вывод 404 ошибки: редиректом на страницу ошибки (error/404/) или по адресу несуществующей страницы показывать 404? Есть отличия между этими вариантами? И какие?...
• Если Google Search Consol показывает ошибку 404, по xml ссылкам, которых нет — что это может быть и в чем опасность?
Абсолютно левые .xml ссылки показывает search.google как "Не найдено (404)". Таких файлов физически нет на сайте в данной папке. Что это может быть? Опасны ли...
• Что делать с большим количеством 404 страниц?
На постоянно меняющейся структуре большого магазина, при обмене данных, возникает большое кол-во 404 (битых ссылок). Нужно ли обращать внимание на такие страницы — делать 301...

---

Ольга С.

SEO-аналитик

Работала в рекламе, занималась копирайтингом.

Дожила до своих лет, предсказала будущее, вывела в ТОП сайт ветеринарной клиники.

Сейчас помогаю развивать клиентские проекты в SiteClinic.

Девиз: Рано или поздно это придется сделать, поэтому лучше рано.

o.titarenko@siteclinic.ru

Оцените мою статью: 

(Пока оценок нет)