Почему страницы индексируются, несмотря на блокировку в файле robots.txt?

В GSC у части страниц статус «Проиндексировано, несмотря на блокировку в файле robots.txt». Почему страницы индексируются, если они заблокированы? Страницы мусорные, поэтому желательно их удалить скорее, как это сделать? И как избежать повторной индексации?

Ответ

Директивы прописанные в файле robots.txt не предназначены для того, чтобы запрещать показ ваших материалов в результатах поиска, например если на страницу ведет внешняя или внутренняя ссылка, то скорее всего страница все равно попадет в индекс.

Чтобы этого избежать и убрать ошибку в консоли, нужно:

проверить sitemap на наличие мусорных URL;
проверить, что нет бэклинков на страницы которые запрещены в robots.txt;
настроить блокировку страниц, прописав ‹meta name= «robots» content= «noindex»› в коде страницы или использовав noindex (404, 410 для удаленных URL) в HTTP-ответе сервера.

Такие страницы будут все реже и реже сканироваться краулерами и автоматически выпадут из индекса.

Также можно воспользоваться Google Search Console → “Индекс” → “Удаления” и оставить запрос на удаление необходимых URL. В течении некоторого времени страницы будут удалены из индекса. Подробнее ознакомиться с инструментом можно по ссылке.

Хотите получить ответ на свой вопрос? Задайте его нам через телеграм-бота!↓

Задать свой вопрос

Подписаться на рассылку

Еще по теме:

Как можно ускорить индексацию или переиндексацию страниц в Google?

Раньше я вручную отправлял каждую ссылку на переиндексацию после того как обновил контент. Как сейчас быть (Вопрос про Google, в связи с отключением инструмента для...

Как реализовать всплывашку 18+, чтобы не было проблем с индексацией контента?

Прилетел интернет-магазин серой тематики. Нужно ли на нем в обязательном порядке размещать всплывашку 18+ (по закону об ограничении контента для несовершеннолетних)? Если нужно, то как...

Как индексировать платные статьи на сайте?

Есть нужда сделать платный раздел с контентом на сайте. Клиент оплачивает и получает доступ к статье. Но как такие статьи индексировать? Что отдавать роботу, а...

Как увеличить скорость индексирования сайта в Google?

Гугл проиндексировал 165 страниц из 2520, одно время максимум было в индексе (в GSC) 500 страниц, но происходит постоянное наполнение интернет-магазина товаром и всё больше...

Почему уникальные статьи не индексируются ПС?

Почему статьи не индексируются ПС, несмотря на то, что они уникальны на 90-100%? Ответ Зачастую проблемы с индексацией страниц сайта заключаются в недостаточном внимании к...