Как составлять файл robots.txt и sitemap.xml для мультиязычного сайта (подпапки)?

Ответ

Файл robots.txt

Для мультиязычного сайта нужно убедиться, что вы не блокируете доступ к любой из языковых подпапок и поисковики смогут обнаружить и проиндексировать контент на всех языковых версиях вашего сайта.

Пример файла robots.txt:

User-agent: *
Disallow: /admin/
Allow: /en/
Allow: /fr/
Sitemap: https://site.com/sitemap.xml

Файл sitemap.xml

Для мультиязычного сайта крайне важно включить в sitemap.xml url-адреса всех версий каждой страницы. Это можно сделать, используя теги <loc> для указания url-адреса страницы и теги <xhtml:link> для указания альтернативных языковых версий. Эти теги должны содержать атрибуты rel=»alternate», hreflang=»код_языка» (где код_языка — это код языка по стандарту ISO 639-1, например, en для английского, fr для французского) и href=»URL версии_на_этом языке».

Пример sitemap.xml для мультиязычного сайта:

<url>
    <loc>https://site.com/en/page1</loc>
    <xhtml:link rel="alternate" hreflang="en" href="https://site.com/en/page1"/>
    <xhtml:link rel="alternate" hreflang="fr" href="https://site.com/fr/page1"/>
  </url>
 <url>
    <loc>https://site.com/fr/page1</loc>
</url>
  <url>
    <loc>https://site.com/fr/page1</loc>
    <xhtml:link rel="alternate" hreflang="fr" href="https://site.com/fr/page1"/>
    <xhtml:link rel="alternate" hreflang="en" href="https://site.com/en/page1"/>
  </url>

Еще по теме:

• Какой должна быть HTML карта сайта в 2022 году и нужна ли она вам?
Актуально ли наличие html карты сайта в настоящее время? Какие ссылки туда добавлять, если сайт, например, на 100 000 страниц? Ответ Наличие html карты сайта...
• «Страница проиндексирована, но ее нет в файле Sitemap» — насколько критична эта ошибка?
Search Console пишет, что URL категории находится в индексе, но его нет в файле sitemap. В то же время файл sitemap обновляется каждый день и...
• Как влияет на продвижение ссылка на HTML карту сайта в подвале всех страниц?
Специалисты по SEO советуют сделать HTML карту сайта и добавить ссылку на нее с главной страницы. Не будет ли "вредно" для сайта установить эту ссылку...
• Чем и как проверять файл sitemap.xml?
У меня есть сайт с кириллическими урлами. Например, https://сайт.рф. Так вот, главная страница у него отлично индексируется гуглом, а вот остальные в sitemap.xml не определяются....
• По каким причинам GSC не хочет индексировать страницы sitemap, созданной в WIX конструкторе?
Подскажите по sitemap.xml в WIX конструкторе. Первый раз с ним работаю. GSC не хочет индексировать страницы и карта показывает ошибку. А почему не могу понять:...

---

Наталия С.

nataliia.s@siteclinic.ru

Оцените мою статью: 

(Пока оценок нет)