Ответ
Screaming Frog может находить не только дубли страниц, но и похожие (неявные дубли). Происходит это следующим образом.
Шаг 1. Переходим в настройки «Configuration» — «Content» — «Duplicates» и настраиваем процент пороговой схожести контента.
Шаг 2. Далее в настройках «Configuration» — «Content» — «Duplicates» задаем исключения и правила для анализа контента, задавая теги, классы и идентификаторы.
Шаг 3. Парсим сайт. После окончания парса настраиваем данные для анализа парса «Crawl Analysis» — «Configure».
Шаг 4. Выполняем анализ: «Crawl Analysis» — «Start».
Шаг 5. После чего во вкладке «Content», выбрав из списка «Near Duplicates» можно увидеть страницы с похожим контентом.
Итого:
- Для каждой страницы будет указан процент схожести, а также количество URL с похожим контентом.
- Во вкладке «Duplicate Details» уже можно увидеть список похожих URL для каждой из страниц.
- Выделив URL в столбце «Near Duplicates Address» можно увидеть исходный контент, в котором будет выделены отличающиеся фрагменты.
Но необходимо понимать, что таким образом мы сможем выявить лишь похожие страницы по текстовом содержимом, но не по смыслу. Более подробно о смысловых дублях можно узнать из нашей статьи: Как выявить смысловые дубли и избавиться от них.
Еще по теме:
- Как правильно удалять бесполезные страницы из индекса? У меня на сайте собралось несколько тысяч бесполезных страниц, планирую их почистить, удалить из индекса поисковиков. Страницы эти не дубли, просто автосгенерированный хлам, без полезного...
- Почему карточки товара могут быть малоценными страницами В Яндексе периодически страницы карточек товаров выбывают из индекса и помечаются как малоценные. Но через некоторое время, они могут быть опять проиндексированы, но мы с...
- Как новому сайту справиться с малоценными и маловостребованными страницами? Как для нового проекта (несколько недель) заставить Яндекс отправить страницы со статусом "Малоценная или маловостребованная страница" в поиск? Контент на 100% уникальный у каждой страницы,...
- Малоценная или маловостребованная страница — какие страницы могут быть удалены из поиска с таким статусом? Могли ли вылететь страницы из поиска Яндекс с пометкой "Малоценная или маловостребованная страница", по причине того, что слетел ssl сертификат на сутки? Какие еще технические...
- Нужно ли закрывать от индексации малоценные страницы карточек товаров? Есть сайт, огромное количество страниц и карточек товаров отличаются друг от друга минимально (одни товары разных размеров). Естественно тысячи таких страниц отмечены Яндексом как некачественные....
Есть вопросы?
Задайте их прямо сейчас, и мы ответим в течение 8 рабочих часов.
Отзывы клиентов:
"Через 1,5 месяца позиции вернулись в ТОП 10"
Евтеев Антон Павлович
Ac-u.ru"Работы на 100%. Очень рекомендую"
Емельянов Данил Юрьевич
Tortoliano.ru"Я получил рекомендации и процесс сдвинулся с мёртвой точки."







(5 оценок, среднее: 4,40 из 5)