Как составлять файл robots.txt и sitemap.xml для мультиязычного сайта (подпапки)?

Ответ

Файл robots.txt

Для мультиязычного сайта нужно убедиться, что вы не блокируете доступ к любой из языковых подпапок и поисковики смогут обнаружить и проиндексировать контент на всех языковых версиях вашего сайта.

Пример файла robots.txt:

User-agent: *
Disallow: /admin/
Allow: /en/
Allow: /fr/
Sitemap: https://site.com/sitemap.xml

Файл sitemap.xml

Для мультиязычного сайта крайне важно включить в sitemap.xml url-адреса всех версий каждой страницы. Это можно сделать, используя теги <loc> для указания url-адреса страницы и теги <xhtml:link> для указания альтернативных языковых версий. Эти теги должны содержать атрибуты rel=»alternate», hreflang=»код_языка» (где код_языка — это код языка по стандарту ISO 639-1, например, en для английского, fr для французского) и href=»URL версии_на_этом языке».

Пример sitemap.xml для мультиязычного сайта:

<url>
    <loc>https://site.com/en/page1</loc>
    <xhtml:link rel="alternate" hreflang="en" href="https://site.com/en/page1"/>
    <xhtml:link rel="alternate" hreflang="fr" href="https://site.com/fr/page1"/>
  </url>
 <url>
    <loc>https://site.com/fr/page1</loc>
</url>
  <url>
    <loc>https://site.com/fr/page1</loc>
    <xhtml:link rel="alternate" hreflang="fr" href="https://site.com/fr/page1"/>
    <xhtml:link rel="alternate" hreflang="en" href="https://site.com/en/page1"/>
  </url>

Еще по теме:

• По каким причинам GSC не хочет индексировать страницы sitemap, созданной в WIX конструкторе?
Подскажите по sitemap.xml в WIX конструкторе. Первый раз с ним работаю. GSC не хочет индексировать страницы и карта показывает ошибку. А почему не могу понять:...
• Эффективность HTML карты сайта для индексации страниц
Насколько эффективны HTML карты сайта? Помогают ли они индексировать страницы и насколько подробны они должны быть? Ответ Наличие html карты сайта эффективны для ресурсов со...
• Надо ли делать отдельные файлы роботс и сайтмап для поддоменов?
Нужно ли делать отдельные файлы роботс и сайтмап для поддоменов? Ответ Так как сайт на поддомене – это по факту отдельный сайт, то да, необходимо...
• Можно ли выводить сгенерированные страницы в отдельный sitemap?
В ИМ планирую генерировать страницы по брендам, но по какой-то технической причине программист не может эти страницы выводить в sitemap. Предложил выводить сгенерированные страницы в...
• Чем и как проверять файл sitemap.xml?
У меня есть сайт с кириллическими урлами. Например, https://сайт.рф. Так вот, главная страница у него отлично индексируется гуглом, а вот остальные в sitemap.xml не определяются....

---

Наталия С.

nataliia.s@siteclinic.ru

Оцените мою статью: 

(Пока оценок нет)