Ответ
Screaming Frog может находить не только дубли страниц, но и похожие (неявные дубли). Происходит это следующим образом.
Шаг 1. Переходим в настройки «Configuration» — «Content» — «Duplicates» и настраиваем процент пороговой схожести контента.
Шаг 2. Далее в настройках «Configuration» — «Content» — «Duplicates» задаем исключения и правила для анализа контента, задавая теги, классы и идентификаторы.
Шаг 3. Парсим сайт. После окончания парса настраиваем данные для анализа парса «Crawl Analysis» — «Configure».
Шаг 4. Выполняем анализ: «Crawl Analysis» — «Start».
Шаг 5. После чего во вкладке «Content», выбрав из списка «Near Duplicates» можно увидеть страницы с похожим контентом.
Итого:
- Для каждой страницы будет указан процент схожести, а также количество URL с похожим контентом.
- Во вкладке «Duplicate Details» уже можно увидеть список похожих URL для каждой из страниц.
- Выделив URL в столбце «Near Duplicates Address» можно увидеть исходный контент, в котором будет выделены отличающиеся фрагменты.
Но необходимо понимать, что таким образом мы сможем выявить лишь похожие страницы по текстовом содержимом, но не по смыслу. Более подробно о смысловых дублях можно узнать из нашей статьи: Как выявить смысловые дубли и избавиться от них.
Еще по теме:
- Как новому сайту справиться с малоценными и маловостребованными страницами? Как для нового проекта (несколько недель) заставить Яндекс отправить страницы со статусом "Малоценная или маловостребованная страница" в поиск? Контент на 100% уникальный у каждой страницы,...
- Нужно скрывать от индексации раздел «Новости компании»? На сайте юридической тематики 13 тыс страниц, 10-15% из которых составляют короткие заметки о жизни компании, которые понятное дело никто не читает, и с поиска...
- Почему карточки товара могут быть малоценными страницами В Яндексе периодически страницы карточек товаров выбывают из индекса и помечаются как малоценные. Но через некоторое время, они могут быть опять проиндексированы, но мы с...
- Что делать со страницами, на которых всего несколько предложений контента? Что делать со страницами, на которых всего несколько предложений контента? Таких страниц получается много и боюсь, чтобы они не повлияли на общую оценку сайта. Ответ...
- Как бороться с малоценными страницами старых новостей на новостном сайте? Подскажите, что делать на новостных сайтах со старыми новостями, например за 2019 год, которые не в индексе и висят в GSC в статусе "Страница просканирована,...
Есть вопросы?
Задайте их прямо сейчас, и мы ответим в течение 8 рабочих часов.
Отзывы клиентов:
"Результат ‒ восстановление доли трафика Яндекса"
Ирина Смирнова
Diagnos.ru"Повторным аудитом остались довольны на все 100%"
Дмитрий Сокол
Hostings.info"Отчеты и консультации всегда исчерпывающие и действенные"