Ответ
Screaming Frog может находить не только дубли страниц, но и похожие (неявные дубли). Происходит это следующим образом.
Шаг 1. Переходим в настройки «Configuration» — «Content» — «Duplicates» и настраиваем процент пороговой схожести контента.
Шаг 2. Далее в настройках «Configuration» — «Content» — «Duplicates» задаем исключения и правила для анализа контента, задавая теги, классы и идентификаторы.
Шаг 3. Парсим сайт. После окончания парса настраиваем данные для анализа парса «Crawl Analysis» — «Configure».
Шаг 4. Выполняем анализ: «Crawl Analysis» — «Start».
Шаг 5. После чего во вкладке «Content», выбрав из списка «Near Duplicates» можно увидеть страницы с похожим контентом.
Итого:
- Для каждой страницы будет указан процент схожести, а также количество URL с похожим контентом.
- Во вкладке «Duplicate Details» уже можно увидеть список похожих URL для каждой из страниц.
- Выделив URL в столбце «Near Duplicates Address» можно увидеть исходный контент, в котором будет выделены отличающиеся фрагменты.
Но необходимо понимать, что таким образом мы сможем выявить лишь похожие страницы по текстовом содержимом, но не по смыслу. Более подробно о смысловых дублях можно узнать из нашей статьи: Как выявить смысловые дубли и избавиться от них.
Еще по теме:
- Нужно скрывать от индексации раздел «Новости компании»? На сайте юридической тематики 13 тыс страниц, 10-15% из которых составляют короткие заметки о жизни компании, которые понятное дело никто не читает, и с поиска...
- Малоценная или маловостребованная страница — какие страницы могут быть удалены из поиска с таким статусом? Могли ли вылететь страницы из поиска Яндекс с пометкой "Малоценная или маловостребованная страница", по причине того, что слетел ssl сертификат на сутки? Какие еще технические...
- Как правильно удалять бесполезные страницы из индекса? У меня на сайте собралось несколько тысяч бесполезных страниц, планирую их почистить, удалить из индекса поисковиков. Страницы эти не дубли, просто автосгенерированный хлам, без полезного...
- Нужно ли закрывать от индексации малоценные страницы карточек товаров? Есть сайт, огромное количество страниц и карточек товаров отличаются друг от друга минимально (одни товары разных размеров). Естественно тысячи таких страниц отмечены Яндексом как некачественные....
- Что делать с пустыми страницами пагинации? Как лучше поступать со страницами пагинации, которые стали пустыми? Допустим было в категории 10 страниц товаров, часть товаров удалили (или просто не в наличии стали,...
s.zaec@siteclinic.ru
Оцените мою статью:
(5 оценок, среднее: 4,40 из 5)Есть вопросы?
Задайте их прямо сейчас, и мы ответим в течение 8 рабочих часов.
Отзывы клиентов:
"Мы увидели рост по целому пулу запросов"
Деревянко П.Н.
Expertology.ru"Здесь можно реанимировать сайт даже со страшным диагнозом"
Денис Кушнир
Aden-stroy.ru"Я получил рекомендации и процесс сдвинулся с мёртвой точки."
