Как найти источник дублей и что с ними делать?

В Google Search Console появились ссылки с непонятными символами в конце URL — ?NA, ?MA, ?ND, ?SD и т.д. Как найти источник этих страниц и что с ними делать в итоге?

Ответ

Чтобы найти источник данных ссылок необходимо:

Просканировать сайт любым удобным краулером для обнаружения данных URL. Проверьте, ссылаются ли на них канонические страницы.
Проанализировать файлы .htaccess или другие места, где могут быть настроены перенаправления на данные URL.
Проверить журналы сервера для обнаружения запросов с такими URL-адресами или к ним. Это может помочь вам определить, какие ресурсы и страницы их вызывают.
В Google Analytics проверьте переходы к этим URL, так вы сможете проследить источник переходов.
Проверьте наличие внешних ссылок на данные URL.

Если источником данных URL являются внешние сайты и никак повлиять на их генерацию нельзя, например, эти URL генерируются в результате переходов с социальных сетей, то их стоит закрыть от индексации в файле robots.txt.

Если источником является работа движка сайта или сервера, то необходимо исправить данный баг и удалить нежелательные страницы, присвоив им 404 или 410 ответ сервера.

Если же исправить баг нельзя — то остается прописать правило в файле robots.txt, которое будет запрещать сканирование данных URL. Также можно настроить rel= «canonical» со страниц дублей на страницы оригиналы (без ?*** в конце URL).

Если у ненужных вам страниц появились внешние ссылки — настройте 301 редирект на канонические URL.

Хотите получить ответ на свой вопрос? Задайте его нам через телеграм-бота!↓

Задать свой вопрос

Подписаться на рассылку

Еще по теме:

Настройка директивы Сlean-param для борьбы с дублями страниц в Яндексе?

Яндекс в последнее время сильно ругается на get параметры, сначала прописывали в robots — помогало, сейчас уже не помогает. Как победить и как решить эту...

Можно ли использовать текстовое описание конкурентов в товарной карточке?

У нас условно говоря 200 товарных позиций, которые не продаются. Думаем, необходимо залить тексты, но под все 200 не успеваем сейчас написать. Можно ли сейчас...

Можно ли скрыть от индексации дублирующийся контент мобильной версии?

Как надежно и безопасно можно закрыть от индексации часть контента от Яндекса и Гугла? Дело в том, что на сайте переработали CMS и в результате,...

Как избежать появления дублей статей блога при наличии основного домена и поддоменов?

Есть сайт с региональными поддоменами. Вся важная коммерческая информация генерится согласно региону (отдельный урл, адрес, номер телефона, привязка в вебмастере, все теги). Но есть одно...