Как составлять файл robots.txt и sitemap.xml для мультиязычного сайта (подпапки)?

Ответ

Файл robots.txt

Для мультиязычного сайта нужно убедиться, что вы не блокируете доступ к любой из языковых подпапок и поисковики смогут обнаружить и проиндексировать контент на всех языковых версиях вашего сайта.

Пример файла robots.txt:

User-agent: *
Disallow: /admin/
Allow: /en/
Allow: /fr/
Sitemap: https://site.com/sitemap.xml

Файл sitemap.xml

Для мультиязычного сайта крайне важно включить в sitemap.xml url-адреса всех версий каждой страницы. Это можно сделать, используя теги <loc> для указания url-адреса страницы и теги <xhtml:link> для указания альтернативных языковых версий. Эти теги должны содержать атрибуты rel=»alternate», hreflang=»код_языка» (где код_языка — это код языка по стандарту ISO 639-1, например, en для английского, fr для французского) и href=»URL версии_на_этом языке».

Пример sitemap.xml для мультиязычного сайта:

<url>
    <loc>https://site.com/en/page1</loc>
    <xhtml:link rel="alternate" hreflang="en" href="https://site.com/en/page1"/>
    <xhtml:link rel="alternate" hreflang="fr" href="https://site.com/fr/page1"/>
  </url>
 <url>
    <loc>https://site.com/fr/page1</loc>
</url>
  <url>
    <loc>https://site.com/fr/page1</loc>
    <xhtml:link rel="alternate" hreflang="fr" href="https://site.com/fr/page1"/>
    <xhtml:link rel="alternate" hreflang="en" href="https://site.com/en/page1"/>
  </url>

Еще по теме:

• Ссылки на какие страницы и файлы добавлять в sitemap.xml?
Добавлять ли в sitemap.xml ссылки на карточки товаров (товаров много, около 500 тыс.)? Или достаточно ссылок на страницы категорий в которых есть эти карточки? И...
• Чем и как проверять файл sitemap.xml?
У меня есть сайт с кириллическими урлами. Например, https://сайт.рф. Так вот, главная страница у него отлично индексируется гуглом, а вот остальные в sitemap.xml не определяются....
• «Страница проиндексирована, но ее нет в файле Sitemap» — насколько критична эта ошибка?
Search Console пишет, что URL категории находится в индексе, но его нет в файле sitemap. В то же время файл sitemap обновляется каждый день и...
• Нужно ли делать отдельный Sitemap для каждого поддомена?
Есть основной сайт и 9 поддоменов. Как составить карту сайта в таком случае: для каждого поддомена отдельную карту сайта и ссылку на этот файл поставить...
• Какой должна быть HTML карта сайта в 2022 году и нужна ли она вам?
Актуально ли наличие html карты сайта в настоящее время? Какие ссылки туда добавлять, если сайт, например, на 100 000 страниц? Ответ Наличие html карты сайта...

---

Наталия С.

nataliia.s@siteclinic.ru

Оцените мою статью: 

(Пока оценок нет)